에이전트 기반 작업 단위(AWU)란 무엇인가요?
에이전트 기반 작업 단위(AWU)는 Agentforce부터 Slack에 이르기까지 에이전트 기반 엔터프라이즈 전반에서 발생하는 활동의 범위를 포착하는 플랫폼 수준의 메트릭입니다. 업계에서는 전통적으로 토큰(모델이 처리한 원시 데이터)에 초점을 맞춰왔지만, 토큰은 사용량만을 보여줄 뿐입니다. AWU는 플랫폼에서 고객을 대신해 수행하는 전체 업무량을 측정하는 지표입니다.
에이전트 기반 작업 단위는 어떻게 작동하나요?
AWU는 AI 에이전트가 수행하는 하나의 개별 작업입니다. 이는 원시 지능이 실제 업무로 전환되는 순간을 의미합니다. 처리된 프롬프트, 완료된 추론 과정 또는 가장 중요한 작업인 도구 호출이 이에 해당합니다. 이러한 가치를 종합적으로 보여드리기 위해 두 가지 핵심 수치를 추적합니다.
- AWU: 플랫폼에서 고객을 대신해 수행하는 전체 업무량입니다.
- 처리된 토큰: 글로벌 AI 컴퓨팅 생태계에서의 당사 영향력을 보여주는 지표로, 인프라 계층에서의 규모를 나타냅니다.
토큰만 측정하지 않는 이유는 무엇인가요?
지금까지 AI의 성과는 토큰 사용량을 기준으로 측정되어 왔습니다. 그러나 토큰은 AI가 얼마나 많이 말했는지만 보여줄 뿐, 실제로 얼마나 많은 업무를 완료했는지는 보여주지 않습니다. 이에 따라, 에이전트 기반 작업 단위(AWU)를 소개하게 되어 매우 기쁘게 생각합니다.
AWU는 항상 일정한 토큰 수와 동일한가요?
아니요. 그 관계는 유동적입니다. 플랫폼 혁신이 성숙해지고 고객의 구현 수준이 향상될수록, 토큰 수와 AWU 간의 차이가 점점 벌어질 것으로 예상합니다. 이는 더 적은 비용으로 더 많은 업무가 수행되고 있음을 의미합니다.
(플로 트리거 또는 API 호출과 같은) 고빈도·결정론적 작업은 점점 더 “토큰 효율적”이 됩니다. 반면, 복잡한 추론이나 자율적인 문제 해결의 경우 입력 토큰이 오히려 증가할 수 있습니다. 특히 에이전트가 작업 품질을 평가하기 위한 실행을 수행하거나, 바이브 코딩을 통해 에이전트를 설계 및 최적화하거나, 최상의 응답을 위해 더 많은 컨텍스트를 활용하는 등 더욱 정교한 작업을 수행할수록 이러한 경향이 나타납니다.
여기서의 목표는 높은 “추론 대비 업무(inference-to-work)” 비율입니다. 즉, 입력 토큰을 활용해 간결하면서도 높은 가치를 지닌 출력 토큰을 생성하는 것입니다. 이는 중요한데, LLM 환경에서는 출력 토큰이 입력 토큰보다 최대 10배까지 더 비쌀 수 있기 때문입니다. 우리의 목표는 단순히 토큰을 적게 사용하는 것이 아니라, 비용이 높은 출력 토큰 하나하나가 수행되는 업무 가치를 극대화하도록 하는 것입니다.
AWU는 얼마나 성장하고 있나요?
현재까지 총 38억 AWU를 생성했으며, 이 중 16억 AWU가 1분기에만 생성되어 전 분기 대비 111% 증가했습니다. 서비스 에이전트는 전 분기 대비 66% 증가하여 1분기에 2억 3,200만 AWU를 기록했으며, 직원 에이전트는 전 분기 대비 148% 증가했습니다. Slack AI는 Slackbot 사용량 증가에 힘입어 전 분기 대비 347% 증가했습니다.
