什麼是檢索增強生成 (RAG)？

大型語言模型 (LLM) — 作為生成式 AI 的核心技術 — 能夠執行從回答複雜問題到創作原創內容等各種任務。然而，企業在使用 LLM 時面臨一項關鍵挑戰：資料的限制。這就是檢索增強生成 (RAG)發揮作用的地方。

RAG 讓企業能將其資料連接至 LLM，從而實現更可信、相關且即時的 AI 商業應用機會。例如，一旦透過 RAG 連接到內部資料，AI 智慧代理就能根據過往問題提供客戶服務回應，或依據最新品牌準則產出行銷簡報。

讓我們來深入了解 RAG 是什麼、它能為您的企業帶來哪些效益、其運作方式，以及如何開始使用。

我們所要討論的內容：

• 什麼是檢索增強生成 (RAG)？
• 檢索增強生成有什麼好處？
• 檢索增強生成如何運作？
• RAG 有哪些不同類型？
• 什麼是 RAG 架構 LLM 代理？
• 檢索增強生成如何幫助您的團隊
• 按產業區分的檢索增強生成範例
• 如何開始使用檢索增強生成

檢索增強生成是一種技術，能讓企業自動將最新且最相關的專屬資料提供給現有的LLM，從而提升生成式 AI 的成果品質。

一個人工智慧 (AI) 模型的表現取決於其所接受的訓練。要讓模型發揮效能，必須具備適當的語境與大量真實資料，而非一般性的資訊。市售的 LLM 並非總是最新，也無法可信地存取您的資料或理解您與客戶之間的關係。這正是 RAG 模型能發揮效用的地方。

透過 RAG，企業可以讓 AI 模型取用最新的內部資訊。這不僅限於像試算表或關聯式資料庫這類結構化資料。這代表可以擷取所有可用的資料，包含非結構化資料：電子郵件、PDF 檔案、聊天記錄、社群媒體貼文，以及其他能提升 AI 輸出品質的資訊類型。

擷取增強產生是一種具成本效益的方法，透過提供更高品質的員工與客戶體驗，強化您的AI 策略。使用 RAG 模型的一些主要商業優勢包括：

• 及時性與相關性：RAG 可讓 LLM 存取公司最新的內部資料，進而產出更合適的回應。即時資訊與過往互動的學習，通常能提升整體品質。
• 更高的可信度：市售的 LLM 面臨的一大挑戰是幻覺現象 — 也就是提供不準確或錯誤的回應。RAG LLM 將企業的專屬資訊導入現有模型，透過以經過驗證且最新的公司資料作為基礎，能降低此類情況的發生機率。
• 更高的掌控力：市售的 LLM 通常以來源不明且範圍廣泛的資料訓練而成。透過 RAG LLM，您可以將指定來源的資訊納入補強一般性資料，進而取得更高的掌控力。
• 強化搜尋功能：現今企業面對來自各種來源的大量洞察、互動與資訊。RAG 透過將 AI 的優勢應用於企業資料，來提升搜尋功能。

RAG 採用語意搜尋技術，從任何資料來源中擷取相關片段，包括企業內部的客戶資料平台，這些資料通常是 LLM 原本未受訓練的部分。這些片段接著被用來產出結合企業知識庫的生成式 AI 回應 — 這種成果有時被稱為「有根據的 AI 生成」(grounded AI generation)。有根據的 AI 生成能幫助您獲得更優質的 AI 回答 。

RAG 的核心元素是：

• 預處理與索引：RAG AI 的第一步是處理企業大量珍貴的非結構化資料，例如：客戶筆記、電子郵件、PDF 檔案、聊天記錄等，並將這些資料連結起來（「預處理與索引」）。
• 檢索器與資料檢索：接著，RAG 會利用強大的語意搜尋工具（「檢索器」）在企業內部資料中進行篩選，找出（「檢索」）針對特定查詢所需的內容。
• 有根據的 AI 生成與增強：最後，RAG LLM 將所檢索到的資料片段整合進生成回應中，以提供最相關的答案（「有根據的 AI 生成與增強」）。

檢索增強生成包含多種用於組織、連結與檢索資料的方法。這些方法彼此相關，常見的包括：

• 向量式 RAG：RAG 可與一種特殊的資料庫搭配使用，稱為向量資料庫，將資訊以數值形式儲存，讓 AI 更易於理解與運用。
• 知識圖譜：透過知識圖譜，資料會依據節點與關係進行組織，使 RAG AI 能夠建立類似人類思考方式的連結。
• 集成式 RAG：同時運行多個檢索器，並將其結果加以整合。這種方式可以讓一個模型補足另一個模型的不足，並能對回應進行交叉驗證。

RAG 架構的 LLM 智慧代理是以檢索增強生成 (RAG) 技術與大型語言模型為基礎。其中的「代理」部分，指的是加入一個自主代理，也稱為 AI 智慧代理。

AI 智慧代理是一種進階形式的人工智慧，能夠自主執行任務並在過程中持續學習。它們是透過代理建構工具建立，並依賴機器學習與自然語言處理 (NLP) 技術。當智慧代理建立在 LLM 與 RAG 架構之上時，就能針對特定企業進行細緻且具語境意識的互動，同時持續適應與優化。

RAG 能透過整合 LLM、雲端資料引擎、客戶關係管理 (CRM) 系統，以及對話式 AI，全面提升企業效率並推動更高的成功率。透過這樣的組合，您可以依照各部門的需求打造一個強大 AI 智慧代理的陣容。這些代理超越一般的聊天機器人，作為高度智能的數位助理整合進工作流程中，能夠不斷處理最新資訊並持續學習。

實際應用起來會是什麼樣子呢？以下是一些例子：

• 服務：服務型 AI 智慧代理讓您能透過 CRM 平台提供更快速、更高效且更有幫助的客戶服務。藉由 RAG 技術所連結的資料，AI 智慧代理能進行個人化互動、根據預測需求提供主動支援，並跨多個通路管理服務。
• 銷售：透過將銷售型 AI 智慧代理整合至您的 CRM 系統，您可以加速銷售管道的成長並提升營收。AI 智慧代理可自動培育潛在客戶，甚至為業務代表提供指導，全方位提升銷售團隊的生產力與能力。
• 行銷：具備行銷型 AI 智慧代理的平台，能夠深化客戶互動並提升團隊生產力。行銷人員可透過 AI 智慧代理，在各個接觸點產出個人化內容與優惠、部署更智慧的行銷活動以觸及整個客戶生命週期，並根據最新的活動 KPI 自主優化。
• 商務：作為整合式平台一部分的商務型 AI 智慧代理，能透過統一的客戶資料提供個人化購物體驗、推薦相關內容並簡化下單流程，以提升銷售表現。它也能協助後台作業，例如優化庫存、生成商品或服務說明等任務。

RAG 的效益橫跨各種產業與企業規模。從小型企業到新創公司及更大型的組織，AI 與內部客戶資料的結合能夠提升體驗，同時支援員工與客戶。

例如，金融服務公司的 AI 智慧代理可運用客戶資訊，協助業務代表發掘相關洞察，並依據個人財務目標量身打造建議。同樣地，醫療領域的 AI 智慧代理可以回覆病患提問，並協助安排最適合的醫療服務提供者。

在製造業中，自主智慧代理可用於監控設備並優化生產流程。而在汽車產業中，RAG AI 智慧代理可廣泛發揮作用，從根據即時庫存制定促銷活動，到主動發現車輛維護問題，樣樣俱全。

有了合適的技術，啟用 RAG 並不需要高昂成本或繁瑣流程。

您的基礎應該是一個具備強大資料引擎的統一平台，能夠處理多樣化的資料來源與檔案類型。此外，平台還需能將所有資料整合並優化，讓檢索器（如向量資料庫）能高效運作。您的平台也應具備先進的智慧代理建構工具，就如 Agentforce 所提供的功能，讓您能夠打造並自訂自主 AI 智慧代理，以支援員工與客戶。

在導入 RAG 時，一個關鍵要點是：RAG 的成功與您所選擇的 LLM 品質息息相關。如欲結合合適的 RAG LLM，請優先選用具備可靠、精確且忠實語境生成能力的高品質模型。同時請記住，「人」的角色仍然至關重要。提問品質越高，回應效果越好，因此請協助您的團隊學習如何撰寫良好的提示詞。

最終，檢索增強生成 (RAG) 的核心在於提升您的 AI 投資報酬率。透過將您的資料與生成式 AI 結合，您能將 AI 智慧代理提升至全新層次，使其回應與執行更加個人化、相關且即時。

舉例來說，Agentforce — Salesforce 平台中的代理系統層便運用了這項技術，協助企業更快速地完成任務。Atlas 推理引擎是 Agentforce 的核心，運用 RAG 技術分析資訊，並判斷如何最佳化地完成請求或任務。

RAG 架構的 LLM 智慧代理能為您的企業帶來多方面的效益，協助您建立更穩固的客戶關係、優化營運流程、提升行銷與銷售表現，並實現高效成長。