什麼是代理式工作單元(AWU)?
代理式工作單元(AWU)是一項平台層級的指標,用來掌握代理式企業中各種活動的廣度,涵蓋從Agentforce到Slack。雖然業界過去多聚焦在權杖(模型處理的原始資料量),但權杖只能反映用量。AWU用來衡量我們的平台代表客戶所執行的總工作量。
代理式工作單元如何運作?
一個AWU代表由AI智慧代理完成的一項獨立任務。這是把原始智慧轉化為實際工作成果的那一刻。它可以代表一次經處理的提示、完成的一次推理鏈,或最重要的——一次工具呼叫。 為了完整呈現這些價值,我們追蹤兩項關鍵數字:
- AWU:我們的平台代表客戶所執行的總工作量。
- 已處理的權杖:我們在全球AI運算經濟中的足跡,讓我們的規模能落在基礎設施層的量級上。
為什麼不計算權杖就好?
截至目前,AI的成功多以權杖的消耗量來衡量。但權杖只衡量AI「說了多少」,而不是它實際完成了多少工作。因此,我們很期待推出代理式工作單元(AWU)
一個AWU是否永遠等於固定數量的權杖?
否。兩者的關係是彈性的。隨著我們的平台創新日益成熟、客戶的導入做法也持續改善,我們預期權杖與AWU會逐漸出現差距,代表能以更低成本完成更多工作。
高頻且具確定性的任務(例如觸發流程或呼叫API)會越來越「省權杖」。相反地,複雜推理與自主問題解決,可能反而會看到輸入權杖增加。尤其當代理執行更進階的動作時,例如執行評估以判定工作品質、透過vibe coding設計並最佳化代理,以及運用更多脈絡來產出最佳回覆。
這裡的目標是達到更高的「推理到工作」比率:用輸入權杖產出精簡且高價值的輸出權杖。這點非常關鍵,因為在LLM的世界裡,輸出權杖的成本最高可能是達成該輸出所需輸入的10倍。我們的目標不只是用更少的權杖,而是確保每一個昂貴的輸出權杖都能把完成的工作量最大化。
AWU呈現出什麼樣的成長?
到目前為止,我們已產生38億個AWU,其中僅第一季就產生16億個,較上一季成長111%。服務代理的AWU季對季成長66%,第四季達到2.32億;員工代理則季對季成長148%。Slack AI在Slackbot使用量增長的推動下,QoQ成長了347%。