什麼是推理引擎？

想像一下，如果 AI 能自動化處理日常業務任務，例如：撰寫電子郵件、產出行銷簡報、建立網頁、研究競爭對手、分析數據與摘要會議內容等。自動化這些重複性任務，將釋放大量寶貴的人力與時間，讓團隊能專注於更具創造性與策略性的工作，例如擬定商業策略與經營關係。

要自動化這些日常業務任務，就必須讓 AI 模擬人類智慧，使其具備推理引擎的功能。這是生成式 AI 的另一層次。除了能以自然語言溝通，AI 還將協助解決問題與做出決策。它能從提供的資訊中學習，評估利弊、預測結果，並做出合乎邏輯的判斷。隨著近年技術的快速進展，我們正站在這項AI 能力的門檻上，而這也讓科學界與商業界充滿期待。

推理引擎是一種 AI 系統，能根據特定規則、資料與邏輯，模擬人類般的決策與問題解決能力。推理引擎通常模擬以下三種類型的人類推理或推論機制：

1. 演繹推理：根據普遍且公認的事實進行推論。例如：「所有鳥類都會下蛋。鴿子是鳥類。因此，鴿子會下蛋。」
2. 歸納推理：根據具體實例或樣本推導出結論。例如：「我遇到的每隻狗都很友善。因此，所有的狗都很友善！」
3. 溯因推理：根據不完整（而且常常模糊）的資訊做出最可能的推論，例如：「地板上到處都是被撕碎的紙，而我們的狗當時獨自在公寓裡。因此，一定是狗把紙撕碎了。」

如今，世界各地的人們都已了解大型語言模型 (LLM) 是一種特殊的機器學習模型，能根據訓練資料產出有用的新內容。除此之外，現今的 LLM 還展現出理解語境、從資料中推論邏輯，以及連結各種資訊來解決問題的能力。這些特性使 LLM 能夠充當推理引擎。

那麼，LLM 是如何透過評估資訊、制定解決方案並套用既有規則來解決常見的商業數學問題呢？

假設一位咖啡店老闆想知道她每個月需要賣出多少杯咖啡才能達到收支平衡。她每杯咖啡售價為 3.95 美元，每月固定成本為 2,500 美元，每杯的變動成本為 1.40 美元。

LLM 會套用一組既有的數學規則，有系統性地得出答案：

第 1 步

找出相關數值。

第 2 步

計算每杯咖啡的貢獻毛利。貢獻毛利是售價減去變動成本。
= 3.95 美元 - 1.40 美元 = 2.55 美元

第 3 步

套用損益平衡公式。損益平衡點等於固定成本除以貢獻毛利。
= 2500 美元 / 2.55 美元= 980.39 美元

第 4 步：

四捨五入至最接近的整數。
平衡點 = 981 杯咖啡

大型語言模型的熱門程度在 2022 年秋季迅速飆升，但早在那之前，科學家們就已深入研究並嘗試透過各種提示來實驗這些模型的表現。所謂「提示設計」，或稱為提示工程，是近期快速崛起的領域，透過精心設計的一組輸入指令（提示）來引導 LLM 生成理想結果。當我們使用提示來產生達成目標的邏輯步驟計畫時，也會將這些提示稱為「推理策略」。以下我們來看看幾種常見的推理策略：

• 思維鏈推理 (COT, Chain-of-Thought)：這是目前最受歡迎的推理策略之一。這種方法模仿人類的決策方式，指示 LLM 將複雜問題拆解為一連串的步驟來解決。這種策略也被稱為「序列規劃器 (sequential planner)」。思維鏈推理 可用來解決數學文字題、進行常識推理，並處理任何人類可透過語言解決的任務。CoT 的一大優點在於，它讓工程師能夠窺探模型的推理過程，若出現錯誤，也能追蹤並修正錯誤的步驟。
• 推理與執行 (ReAct, Reasoning and Acting)：這種策略除了使用 LLM 訓練資料外，還會擷取現實世界的資訊來輔助推理。基於 ReAct 的推理 被認為更接近人類的任務解決方式，結合了互動式決策與語言推理，有助於提升錯誤處理能力並降低幻覺現象的發生率。它透過使用者操作整合推理與行動，提升回應的可解釋性與可信度。這種策略也被稱為「逐步規劃器 (stepwise planner)」，因為它採取逐步解題方式，並在每一步驟中尋求使用者回饋。
• 思維樹推理 (ToT, Tree of Thoughts, ToT)：這是思維鏈 (CoT, Chain-of-Thought) 策略的一種進階變化，在每個中間步驟生成多種思考路徑。它不像傳統 CoT 僅選擇一條推理路徑，而是會在每個步驟中評估環境狀態，進行前瞻思考或回溯調整，以做出更謹慎的決策。此策略已被證實在處理複雜任務（如數學遊戲、創意寫作練習與迷你填字遊戲）上，明顯優於 CoT。ToT 推理 被認為更接近人類的決策模式，能探索多種選項、權衡利弊，並最終選出最佳解。
• 透過規劃進行推理 (RAP, Reasoning via Planning)：此策略同時將 LLM 作為推理引擎與世界模型，能預測環境狀態並模擬行動的長期影響。它融合多種概念，例如探索替代推理路徑、預測未來狀態與回報，以及反覆優化現有推理步驟，以達成更佳的推理表現。基於 RAP 的推理 在涉及規劃、數學推理與邏輯推論的任務上，表現優於多項基準模型。

這些只是當前幾種最具潛力的策略。將這些推理策略應用於實際 AI 應用的過程是反覆調整的，需要針對具體情境調整與結合多種策略，以達到最佳效能。

讓 LLM 具備推理能力確實令人振奮，但要讓它在真實世界中發揮效用，還需要更多的整合與設計。打個比方：如果說 LLM 是具備推理、規劃與決策能力的「大腦」，那麼我們仍然需要「手腳」來付諸行動。這就是「AI 智慧代理」登場的時刻 — 它是一種同時具備推理與行動能力的 AI 系統。在現今的應用中，這些「行動能力」常以「工具」、「外掛程式」、「動作模組」等形式出現。

AI 智慧代理主要分為兩種類型：全自動型與半自動型。全自動的自主代理能夠在無需人為干預的情況下自行決策並執行行動。這類代理目前仍屬於實驗階段。半自動代理則是指仍需「人類參與」來觸發請求的系統。我們已開始在一些 AI 應用中看到半自動代理的普及，特別是在對話式聊天機器人領域，如 Agentforce Assistant、ChatGPT 和 Duet AI 等。

AI 智慧代理包含四個關鍵組成要素：

1. 目標 — 代理的主要任務或目標。
2. 環境 — 包含目標、初始使用者輸入、先前活動或對話紀錄、用於語境連結的資料、使用者回饋，以及 LLM 所訓練的資料等上下文資訊。
3. 推理 — LLM 內建的能力，可觀察情境、規劃下一步動作，並根據目標調整策略以達成最終任務。
4. 行動 — 通常是外部工具，使代理能實際執行任務以實現目標。常見的行動範例包括資訊檢索、搜尋、程式碼生成、程式碼解釋與對話生成等。

Agentforce Assistant 是 Salesforce 推出的先進 AI 驅動對話式助理，可用自然語言與企業員工與客戶互動。員工可透過它在工作流程中完成各種任務，實現大規模生產力提升。消費者則可利用它與品牌進行即時對話並獲得快速回應，進而提升滿意度與忠誠度。Agentforce Assistant 不僅使用 LLM 執行語言理解與內容生成任務，更進一步將其作為推理引擎來規劃複雜任務，幫助使用者減輕認知負擔。

運作方式如下：

1. 使用者輸入他們想完成的目標，例如：「建立一個網頁」。
2. Agentforce Assistant 會使用經過設計的提示詞，將使用者輸入內容傳送至安全的 LLM，以推斷使用者意圖。
3. 根據該意圖，Agentforce Assistant 再傳送另一組設計好的提示，指示 LLM 擬定一個可實現該目標的計畫。
4. 生成的計畫是一組以邏輯順序串聯的行動步驟。為確保 Agentforce Assistant 的行為可信，LLM 會被指示僅使用其可存取的行動工具來產生計畫。
5. 當 LLM 傳回一份計畫後，Agentforce Assistant 會依照預定的順序執行這些行動，以產出理想的結果並回傳給使用者。

在視覺上，這呈現為：

Agentforce Assistant 讓企業能夠善用 LLM 作為推理引擎。透過這項工具，企業現在可以運用 AI 完成許多在幾個月前還難以實現的任務。

• 如果銷售團隊面臨銷售管道不足的情況，Agentforce Assistant 可以掃描資料庫，找出值得接洽的高品質潛在客戶。
• 協作助理會分析潛在交易，找出可能面臨風險的案件，並在有需要時為管理者摘要相關紀錄。
• 協作助理也能協助客服人員處理客戶的過度收費問題，主動收集正確的資訊以進行故障排查。
• Copilot 可以分析潛在交易中客戶目前的情緒，並建議未來三個月內完成交易所需採取的行動。

在這些應用情境，以及許多類似的案例中，Agentforce Assistant 本質上扮演的是一個半自動智慧代理的角色，運用 LLM 作為推理引擎，並在使用者觸發時執行行動來完成任務。這僅僅是開始；下一個里程碑是讓 Agentforce Assistant 成為真正的全自動智慧體，不只是提供協助，更能主動行動、無所不在。AI 的未來令人振奮，但更令人期待的，是它即將帶來的全球效率革新成果。