服務主控台顯示與愛因斯坦的聊天窗口幫助回答問題

什麼是檢索增強生成(RAG)?

如何通過檢索增強生成或 RAG 將生成 AI 提示提示提升到一個新的水平。

阿里·本德斯基

2023 年,總部位於加拿大的 Algo Communications 發現自己面臨一個挑戰。 該公司已經準備好快速成長,但它無法足夠快地培訓客戶服務代表(CSR)以跟上其擴展。 為了解決這個挑戰,該公司轉向了一種新穎的解決方案:生成人工智能。

Algo 採用了大型語言模型(LLM),以幫助更快地加入新 CSR。 為了培訓他們準確且流利地回答複雜的客戶問題,Algo 知道它需要比現成的 LLM 更強大的東西,通常在公共互聯網上進行培訓,並且缺乏準確回答問題所需的具體業務背景。 進入檢索增強生成,更簡單稱為 RAG。

到目前為止,我們中的許多人已經通過對話應用程序(例如 OpenAI 的 ChatGPT)或谷歌的 Gemini(前身 Bard)使用了生成的 AI LLM 來幫助撰寫電子郵件或製作聰明的社交媒體副本。 但是,獲得最佳效果並不總是容易,尤其是如果您沒有熟悉製作出精美的提示的美術和科學。

這就是原因:AI 模型只能與教學的一樣好。 為了發展,它需要適當的背景和大量事實數據,而不是通用信息。 現成的 LLM 並不總是最新的,也不會有可靠的訪問您的數據或了解您的客戶關係。 這就是 RAG 可以幫助的地方。

RAG 是一種 AI 技術,允許公司自動將其最新和相關的專有數據直接嵌入其 LLM 提示中。 而且我們不只是談論結構化資料,例如試算表或關聯式資料庫。 我們的意思是檢索所有可用的數據,包括非結構化數據:電子郵件,PDF,聊天記錄,社交媒體帖子以及其他可能導致更好的 AI 輸出的信息類型。

使用 Agentforce 計算您的投資報酬率。

了解您可以透過人工智慧技術支援的代理團隊與員工和員工並肩合作,您可以節省多少時間和金錢。 只需回答四個簡單的問題,即可看看 Agentforce 是什麼可能的。

檢索增強生成如何運作?

簡而言之,RAG 幫助公司從各種內部來源檢索和使用其數據,以獲得更好的生成 AI 結果。 由於源材料來自您自己的信任資料,因此它有助於減少或甚至消除幻覺和其他錯誤輸出。 底線:您可以相信回應是相關和準確的。

為了達到這種更高的準確性,RAG 與一種特殊類型的數據庫(稱為向量數據庫)結合使用,以對 AI 有意義的數字格式存儲數據,並在提示時檢索該數據。

Salesforce 人工智能產品營銷總監 Ryan Schellack 表示:「如果向量數據庫沒有做到它的工作,RAG 無法完成其工作。 「兩者彼此相互相。 當您看到一家公司談論支持檢索增強生成時,他們至少支持兩件事:用於存儲信息的向量存儲,然後一種類型的機器學習搜索機制,旨在對應該類型的數據。」

RAG 與向量數據庫並合作,可以成為生成更好的 LLM 輸出的強大工具,但它並不是一個銀子彈。 用戶仍然必須了解撰寫清晰提示的基礎知識

特攻布萊斯角色

加入 Salesblazer 社群

與來自世界各地的 Agentblazer 聯繫,以提高人工智能技能,發現使用案例,聽取產品專家的意見等。 發展您的 AI 專業知識和職業生涯。

快速回應複雜問題

在其向量數據庫中添加了大量非結構化數據,包括聊天日誌和兩年的電子郵件歷史記錄後,Algo Communications 在 2023 年 12 月開始使用其幾個 CSR 測試此技術。 他們在一組小樣品上工作:大約 10% 的公司產品基礎。 CSR 大約需要兩個月才能使用該工具感到舒適。 在實施過程中,公司領導層很高興看到企業社會責任在 RAG 的協助下回答深入問題時獲得更大的信心。 此時,該公司開始在公司範圍內更廣泛地推出 RAG。

Algo Communications 商業營運副總裁 Ryan Zoehner 表示:「探索 RAG 幫助我們了解我們將能夠帶來更多數據。」 「它將使我們能夠分解許多這些非常複雜的答案,並以一種方式提供五個和六部分的答案,以讓客戶知道 [有] 有技術知識的人回答它們。」

在新增 RAG 後的兩個月內,Algo 的客戶服務團隊能夠更快、更有效率地完成案例,這幫助他們更快 67% 的速度進行新查詢。 RAG 現在觸及其 60% 的產品,並將繼續擴展。 該公司還開始將新的聊天日誌和對話添加到數據庫中,從而使其解決方案更加相關的上下文。 使用 RAG 還使 Algo 能夠將其入職時間縮短一半,使其成長更快。

Zoehner 說:RAG 使我們更有效率。」 「這使我們的員工對工作感到更快樂,並幫助我們更快地完成一切。 這與我們嘗試與 LLM 做的其他一切不同的是,它使我們能夠保持我們的品牌,我們的身份,以及我們作為公司身份的精神。」

由於 RAG 為 Algo 的企業社會責任提供 AI 協助,該團隊已經能夠花更多時間為客戶互動增添人性感。

Zoehner 說:「這使我們的團隊能夠花費額外的一點來確保回應正確的方式發生。」 「這種人性使我們能夠將我們的品牌融入所有事物。 它還為我們提供全面的質量保證。」