Atlas 推理引擎如何為 Agentforce 提供支援

AI 世界，尤其是生成式 AI 的創新速度仍在以驚人的速度持續前進。隨著現今技術的高度成熟，整個產業正迅速從對話輔助自動化，邁向能強化人力的角色導向自動化發展。為了讓人工智慧 (AI) 達到類似人類的表現，關鍵在於理解人類在完成工作時最有效的能力來源：主動性 (agency)。人類能夠接收資訊、推理出各種可能的行動路徑，並採取行動。要讓 AI 擁有這種主動性，必須具備極高層次的智慧與決策能力。

在 Salesforce，我們運用大型語言模型 (LLM) 和最新推理技術的突破，推出了 Agentforce。Agentforce 是一套即開即用的 AI 智慧代理，這些自主且具前瞻性的應用專為執行特定任務而設計，同時也提供一系列工具，讓使用者可以自行打造和客製這些代理。這些自主型 AI 智慧代理具備高度成熟的思考、推理、規劃與協調能力。Agentforce 在 AI 自動化領域實現了重大突破，廣泛應用於客戶服務、銷售、行銷、商務等多個領域。

本文將深入介紹促成 Atlas 推理引擎誕生的創新歷程。Atlas 推理引擎是 Agentforce 的核心大腦，由 Salesforce AI Research 所研發孵化，能夠智慧且自主地協調行動，為企業帶來具備企業級水準的代理式解決方案。

今年稍早，我們推出了 Agentforce Assistant，如今它已進化為一款應用於客戶關係管理 (CRM) 的 Agentforce 代理。Agentforce Assistant 是一款由生成式 AI 驅動的對話助理，其智慧來自一種名為 思維鏈推理 (CoT, Chain-of-Thought reasoning) 的機制。在這項機制中，AI 系統透過生成一系列達成目標的步驟來模擬人類式的決策過程。

透過基於 CoT 的推理，Agentforce Assistant 能夠在工作流程中與使用者共同創作與協作。相較於傳統機器人，這已是一大進步，但仍無法真正模擬人類般的智慧。它會根據任務生成一個包含多個行動步驟的計劃，並依序執行這些行動。然而，如果該計劃有誤，它並無法請求使用者重新引導。這導致整體的 AI 體驗缺乏適應性：使用者無法在對話過程中提供新的、有用的資訊來進行調整。

當我們在自家銷售團隊 (Org 62) 中，讓數千位業務員對 Agentforce Assistant 進行嚴格測試時，出現了一些明顯的模式：

• 如預期般，Copilot 所提供的自然語言對話體驗遠優於傳統機器人，但仍未達到真正如同人類般互動的理想境界。它需要具備更強的對話能力。
• Copilot 在執行既定操作、完成使用者目標方面表現優異，但卻無法處理針對對話中已有資訊的後續提問。它需要更有效地運用上下文，以回應更多使用者的提問。
• 隨著我們新增更多操作來自動化更多使用情境，Copilot 的效能開始下降，不僅回應延遲增加，回應品質也受到影響。它需要具備有效的擴展能力，能應對數千種使用情境和應用，讓更多場景受益。

我們著手尋找解決這些問題的方法，這也促成了 Agentforce 的誕生。

Agentforce 是業界首創的企業級對話自動化解決方案，能在幾乎無需人為介入的情況下，主動且智慧地做出大規模決策。這項能力的實現，來自多項技術上的突破。

• 基於 ReAct 提示的協調機制 vs. 思維鏈 (CoT)大量的實驗與測試顯示，相較於 CoT 技術，推理與行動 (ReAct) 風格的提示能產出更佳的結果。在 ReAct 機制中，系統會經歷「推理 → 執行 → 觀察」的循環，直到完成使用者目標為止。這種循環式的處理方式讓系統能夠考慮新資訊，並提出釐清問題或確認事項，從而盡可能精準地完成使用者的目標。同時也帶來更流暢、自然的語言對話體驗。
• 主題分類。我們引入了一個名為「主題」的新概念，對應使用者意圖或要完成的任務。當使用者輸入訊息時，系統會將其對應到一個主題，該主題包含執行該請求所需的相關指令、商業政策與操作步驟。這項機制有助於明確界定任務範圍與 LLM 的解決空間，使系統得以輕鬆擴展。嵌入主題中的自然語言指令則進一步為 LLM 提供引導與安全機制。因此，如果某些操作必須依特定順序執行，這可以透過自然語言形式的主題指令來描述。如有類似「30 天內可免費退貨」這類商業政策，也可作為指令傳遞給 LLM，讓其納入考量並在與使用者互動時做出相應回應。這些概念讓代理能夠安全且穩健地擴展至數千種操作。
• 使用 LLM 回應。過去，我們限制系統只能以動作輸出作為回應，這大大限制了它根據對話中現有資訊進行回應的能力。如今，我們開放系統讓 LLM 能運用對話歷史中的上下文來生成回應，從而帶來更豐富的對話體驗。使用者現在可以提出釐清問題，或針對先前的輸出進行追問，這大幅提升了整體任務達成率。
• 思考／推理。引導 LLM 表達其思考過程或說明選擇特定行動的原因，能大幅減少幻覺現象。這同時帶來另一項優勢：能讓管理員和開發者清楚了解 LLM 的行為，進而微調代理，使其更符合實際需求。在 Agent Builder 的操作畫面中，推理功能預設為啟用，使用者也可以透過後續提問來請代理解釋其推理過程。這不僅能防止幻覺，也有助於建立使用者對系統的信任。

除了 Atlas 推理引擎之外，Agentforce 還具備數項讓其與眾不同的關鍵特性。

• 主動式行動使用者輸入是一種觸發代理的方式。但 Agentforce 代理也可以透過 CRM 或商業流程與規則中的資料操作來觸發，例如案件狀態更新、品牌收到一封電子郵件，或是會議即將在五分鐘內開始。這些機制賦予代理主動出擊的能力，使其能在各種動態的商業環境中發揮作用，擴展其在前台與後台的應用價值。
• 動態資訊擷取。大多數商業應用情境都涉及資訊擷取或執行動作。將靜態資訊提供給代理最常見的方法之一是透過「著陸 (grounding)」。然而，代理能夠存取動態資訊的能力，才真正釋放了龐大的應用潛力與使用情境。
  
  Agentforce 支援多種機制來存取動態資訊。第一種是檢索增強生成，或稱為 RAG。透過 RAG 對 Data Cloud 中的結構化與非結構化資料進行語意搜尋，代理能從外部資料來源和資料庫中擷取任何相關資訊。
  
  其次，隨著通用資訊擷取工具的引入，例如：網頁搜尋和知識問答，我們進一步強化了代理處理複雜任務的能力。想像一下，透過網路搜尋來調查某家公司或產品，再結合企業內部的規則與政策知識，最後以撰寫給聯絡人的電子郵件摘要形式採取行動 — 代理就能完成整個流程。結合來自多個來源的資料，使代理能夠更有效率且更有成效地處理各種商業任務。
  
  最後，代理還可以部署於 Flow、API 和 Apex 中。透過這種方式，工作流程中的所有情境資訊，以及各種情境所需的資料，都能傳遞給代理，無需為每個情境另建客製化解決方案。這些使代理能存取動態資訊的機制，讓它們能更深入地理解所處環境，大幅提升其互動能力。
• 轉接至人工代理AI 具不確定性，也可能產生幻覺。因此，我們率先推出強大的 Einstein 信任層，提供有害內容偵測、零資料保留合約、防止提示注入攻擊等多項防護機制。我們也在系統提示中預先設置規則，以防止 LLM 偏離主題或產生幻覺。但儘管有這些防護機制，LLM 仍無法達到 100% 的準確率。對於那些錯誤容忍度為零的關鍵商業情境，能夠無縫轉接至人工處理就顯得至關重要，而這正是 Agentforce 原生支援的功能之一。Agentforce 將「轉接至真人專員」視為另一種操作，使對話能在任何指定的商業情境中安全且無縫地轉交給人工處理。

儘管仍處於新興階段，Agentforce 已經為我們的客戶帶來顛覆性的改變。像 Wiley 和 Saks Fifth Avenue 這樣的客戶，透過 Agentforce 客服代理，正見證其業務關鍵指標的指數級成長。隨著 Salesforce Research 和整個產業的創新與技術進步持續快速推進，我們也正以極高的速度持續探索各項創新，讓代理變得更加強大與智慧。客戶在不久的將來可以期待以下幾項進展：

• 代理測試與評估框架：將像 Agentforce 這樣複雜的代理系統導入企業，需要大量的測試與驗證工作。因此，我們開發了一套完善的評估框架，用於測試操作結果、輸入與輸出、規劃準確性、主題分類以及規劃器狀態。我們一直使用這套框架來改善代理在準確性、回應延遲、服務成本和可信度等指標上的表現。與市面上大多數專注於評估 LLM 在數學、科學或一般知識等任務表現的通用框架與基準不同，我們的評估框架是專為 CRM 商業應用情境所設計。我們也已發佈全球首個 LLM 基準測試 ，目前正致力於將我們的代理評估框架提供給客戶和合作夥伴使用。
• 多重意圖支援這是實現類人對話機制的關鍵要素之一。許多日常語句都包含多個互不相關的目標，例如：「更新我的訂單並幫我找一件 M 號上衣」、「更新案件狀態並將故障排除步驟的摘要寄給客戶」，或「訂機票並預訂飯店」。結合 LLM 的自然語言理解能力、大型上下文視窗支援，以及我們如「主題」等創新概念，我們持續進行各項實驗，致力為客戶打造一套可靠、可擴展且安全的解決方案。
• 多模態支援雖然大多數的數位互動仍以文字為主，但語音和視覺為基礎的互動能大幅提升使用體驗，因為這些方式更貼近人類最自然的交流方式。事實上，隨著多模態輸入的同步處理、更快速的回應時間、大型上下文視窗，以及複雜推理能力等技術進步，預計多模態 AI 市場將在2031 年前成長約 36% 。有多種企業應用情境可立即受益於多模態支援，包含：
  • 語音應用情境以生成式 AI 語音支援取代互動式語音回應 (IVR)，並應用於員工教練指導、培訓與新進人員導入流程。
  • 視覺應用情境產品搜尋與比較、使用者介面（網頁、行動裝置）瀏覽、現場服務的故障排除與問題解決。
• 多代理支援代理之間的互動是當今最具變革性的商業發展之一。由於多代理系統能同時擷取、彙整並處理資訊，能大幅縮短目前因人與人之間交接而需順序執行的冗長複雜工作流程的處理時間。數位代理可以被嵌入這些工作流程中，負責重複性資料處理任務，並協助參與流程的人員提升效率。
  
  我們已開始在銷售流程中引入這種多代理範式，代理可以擔任銷售開發代表、培育銷售管道，或作為銷售教練，指導業務代表如何更有效地談判成交。專門化的代理也能處理銷售流程中的其他環節，如潛在客戶資格審核、提案準備及售後跟進。同理，服務工作流程中可包含負責故障排除、追蹤及指派工單的代理，還有回應客戶詢問並協助人工客服的代理。

Agentforce 代表繼預測型 AI 與協作助理之後的第三波 AI 浪潮。透過 Agentforce，客戶可以打造不僅回應對話提示以執行動作，還能主動預測、規劃並進行推理，且幾乎不需外界協助的代理。代理能自動化整個工作流程或作業程序，做出決策，並適應新資訊，且全程無需人為介入。同時，這些代理也能確保順暢地轉接給人工員工，促進各部門間的協作。由 Atlas 推理引擎驅動，這些代理只需點按幾下即可部署，用以強化並轉型任何業務功能或團隊。