망고부스트가 에이전트형 AI 인프라를 위해 소프트웨어와 서버, 데이터센터를 통합한 솔루션을 제시했다. 이종 연산과 계층형 메모리 구조를 통해 비용을 절감하고 운영 효율을 극대화하는 것을 목표로 한다.
"에이전트형 인공지능(AI)은 질문 한 번에 답을 내는 챗봇과 다르다. 목표를 이해하고 도구를 쓰며 같은 작업을 반복하기 때문에 연산량, 즉 토큰이 급증한다. 단순 대화가 토큰 1이라면 추론형 거대언어모델은 약 10배, 에이전트 시스템은 약 1000배에 이른다."
newshub는 원문 전문을 게재하지 않습니다. 위 요약과 인용은 newshub가 정리한 것이며, 기사 전문과 저작권은 전자신문에 있습니다.