Unidades de trabajo agéntico (AWU)

Una unidad de trabajo agéntica (AWU) es una medición a nivel de plataforma que captura la amplitud de la actividad que ocurre en toda la compañía agéntica, de Agentforce a Slack. Aunque la industria tradicionalmente se ha centrado en los tokens (los datos brutos procesados por un modelo), los tokens solo informan sobre el consumo. Las AWU son una medida del volumen total de trabajo que nuestra plataforma realiza en nombre de los clientes.

Una AWU es una tarea discreta que realiza un agente de IA. Es el momento en el que la inteligencia bruta se convierte en trabajo real. Es una solicitud procesada, una cadena de razonamiento completada o, lo más importante, una herramienta invocada. Para proporcionar una imagen completa de este valor, realizamos el seguimiento de dos cifras clave:

• AWU: el volumen total de trabajo que nuestra plataforma realiza en nombre de los clientes.
• Tokens procesados: nuestra huella en la economía global de cómputo de IA, lo que fundamenta nuestra escala en la capa de infraestructura.

Hasta la fecha, el éxito de la IA se ha medido a través del consumo de tokens. Pero los tokens solo miden cuánto habla una IA, no el trabajo que completa realmente. Es por eso que nos complace presentar la unidad de trabajo agéntica (AWU)

No. La relación es elástica. A medida que la innovación de nuestra plataforma se desarrolla y las implementaciones de nuestros clientes mejoran, esperamos ver una divergencia en los tokens frente a las AWU, lo que implica que se está haciendo más trabajo a un menor costo.

Las tareas deterministas de alta frecuencia (como activar un flujo o llamar a una API) se vuelven cada vez más eficientes en cuanto al uso de tokens. En cambio, el razonamiento complejo y la solución autónoma de problemas en realidad pueden ver un aumento en los tokens de entrada. Especialmente a medida que los agentes realizan acciones más sofisticadas, como ejecutar evaluaciones para determinar la calidad del trabajo, diseñar y optimizar agentes con codificación con intención y aprovechar aún más el contexto para obtener las mejores respuestas posibles.

El objetivo aquí es una alta relación entre inferencia y trabajo: usar tokens de entrada para producir tokens de salida concisos y de alto valor. Esto es fundamental porque en el mundo de los LLM, los tokens de salida pueden ser hasta 10 veces más caros que la entrada utilizada para alcanzarlos. Nuestro objetivo no es simplemente utilizar menos tokens, sino asegurarnos de que cada token de salida costoso gastado maximice el trabajo que se está realizando.

A la fecha, hemos generado 3800 millones de AWU (tan solo 1600 millones en el primer trimestre), lo que representa un aumento del 111 % en comparación con el trimestre anterior. Los Agentes de servicio crecieron un 66 % en comparación con el trimestre anterior para alcanzar 232 millones de AWU en el primer trimestre, mientras que los agentes de empleados experimentaron un incremento del 148 % trimestre a trimestre. La IA de Slack creció un 347 % trimestre a trimestre, impulsado por el crecimiento en el uso de Slackbot.