Salesforce值得信賴的AI

僅提供AI技術能力並不足夠，我們也肩負著確保AI對所有人而言都安全且具包容性的重要責任。因此，我們打造了Salesforce Trust Layer。這是一套完善的功能與防護機制，可保護您資料的隱私與安全、提升AI結果的安全性與準確性，並推動在整個Salesforce生態系統中以負責任的方式使用AI。

在Salesforce，我們以五項核心價值為指引：信任、客戶成功、創新、平等和永續發展。在倫理與人道使用辦公室的推動下，我們也堅定致力於以負責任的方式開發及部署技術。

人工智慧(AI)是極具潛力改善世界現況的新興技術之一，能強化人類智慧與能力，並提供可行動洞察，為我們的員工、客戶和合作夥伴創造更理想的成果。

我們相信，每個人都應能享有AI帶來的效益。但僅提供AI技術能力並不足夠，我們也肩負著確保AI對所有人而言都安全且具包容性的重要責任。我們認真看待這項責任，並致力為員工、客戶和合作夥伴提供所需工具，讓他們能以安全、準確且符合倫理的方式開發及使用AI。

因此，我們打造了Salesforce Trust Layer，作為架構基礎與一套技術防護機制，確保Salesforce中的每次AI互動都安全、隱密、準確，並符合我們的倫理價值。

2018年，我們開始明確闡述值得信賴的AI原則，並希望確保這些原則符合Salesforce的產品、使用情境和客戶需求。我們歷時一年，向公司各組織中的個別貢獻者、經理和高階主管徵詢意見，涵蓋工程、產品開發、使用者體驗、資料科學、法務、平等、政府事務和行銷等領域。這些原則獲得各雲端產品與職務的高階主管核准，包括當時的共同執行長Marc Benioff和Keith Block。如同我們在倫理AI成熟度模型 中所述，儘管這段歷程看似漫長，卻是一次重要的奠基經驗，可確保公司中的每個人都曾參與其中、瞭解自身實踐這些原則的責任，並認同將其落實於日常工作中。

我們致力保障人權、保護受託管理的資料、遵循科學標準，並落實防止濫用的政策。我們期望客戶以負責任的方式使用我們的AI，並遵守與我們簽訂的協議，包括我們的可接受使用政策 。

我們相信，我們應對客戶、合作夥伴和社會承擔責任。我們會尋求獨立意見，持續改善實務做法與政策，並致力降低對客戶和消費者造成的傷害。

我們致力確保客戶瞭解每項AI驅動建議與預測背後的原因，讓他們能在掌握充分資訊的情況下做出決策、識別非預期結果並降低傷害。

我們相信，AI與人類能力相結合時最能發揮效益，可強化人們的能力，協助他們做出更好的決策。我們期望打造能協助每個人提升生產力，並在組織內創造更大影響力的技術。

AI應改善人類福祉，並反映所有受其影響者的價值觀，而不只是創造者的價值觀。我們將透過AI推動多元、促進平等並實現公平。

僅制定一套原則並不足夠。隨著AI的潛力呈指數成長，確保所有人都能以安全且具包容性的方式使用AI，也成為日益重大的責任。以下範例說明我們如何將值得信賴的AI原則落實於實務中。

在建立任何AI功能前，我們不只會問這件事能不能做，也會問這件事該不該做。我們與外部人權專家合作，持續學習、成長，並探索保障人權的新方法。

我們為客戶提供相關知識與能力，協助他們在掌握充分資訊的情況下，決定如何以負責任的方式使用我們的AI。為此，我們將建立工具與資源，協助Salesforce員工、客戶和合作夥伴識別並降低其建立及使用之系統中的偏見(例如，當模型使用受保護的資料類別和替代變數時加以標示，並清楚說明哪些因素對個別預測的影響最大)，讓客戶與合作夥伴瞭解自身以安全且可靠的方式採用AI所肩負的責任。

我們遵循最高標準的安全與隱私實務做法，協助預測並降低非預期傷害，同時確保產品安全。我們遵守所有規範AI研究與使用的適用法律。我們也致力在研究中達到最高的科學與品質標準，確保研究安全，並透過同儕審查出版品、研討會和產業活動分享研究成果。

我們透過倫理使用諮詢委員會和工作坊，與外部人權及科技倫理專家交流。我們也透過客戶諮詢委員會與公開對話徵詢客戶意見，並將這些意見納入審議流程。

我們相信，回饋產業與社會至關重要。因此，我們透過產業團體、公民社會論壇和政府組織(例如美國國家標準暨技術研究院、美國國家AI諮詢委員會，以及新加坡AI與資料倫理使用諮詢委員會)與同業合作，持續改善我們的實務做法與政策。

我們提供多種管道，讓員工提出問題與疑慮，包括匿名線上企業通報與治理系統、Slack頻道和群組電子郵件地址。

透明不僅涵蓋我們如何建立模型，也包括模型為何做出特定預測或建議。我們會發佈模型卡，說明模型的建立方式、預期與非預期使用情境、已知的倫理或社會影響，以及效能分數。AI做出預測或建議時，我們也會提供模型可解釋性。

我們讓客戶隨時掌握其資料與模型的控制權。我們管理的資料並不屬於Salesforce，而是屬於客戶。我們也會向客戶清楚揭露使用條款，以及Salesforce AI功能的預期應用方式。

我們致力簡化AI的複雜性，讓各種技術能力程度的人員都能建立AI應用程式，而不僅限於進階資料科學家；只需點選幾下，無須編寫程式碼。此外，我們透過Trailhead建立並提供免費AI教育，讓每個人都能培養從事第四次工業革命相關工作所需的技能。這包括衡量差別影響(偏見的一種定義)、自動填入模型卡(如同模型的營養標示)等工具，以及提供應用程式內指引，讓客戶瞭解如何以負責任的方式使用我們的AI。

Salesforce AI團隊致力推動AI研究突破，為全新產品類別提供發展方向，並確保客戶始終站在技術進步的最前線。

我們會使用多元、具代表性且最符合模型使用方式的資料集來測試模型。我們致力瞭解AI服務對廣泛客戶、終端使用者和各種情境所造成的影響。這包括舉辦後果掃描工作坊和有意識的建構工作坊。 我們也致力遵循平等核心價值，打造能反映多元經驗與觀點的包容性團隊。

Salesforce Trust Layer將一套全面的防護機制直接內建於平台架構中，因應資料安全、法規遵循和倫理治理等企業核心疑慮。它能滿足企業對兼具強大功能與內建信任機制之AI的需求。

Trust Layer是一套完善的功能與防護機制，將我們的倫理原則落實為技術實作。其設計宗旨是主動降低生成式AI的相關風險，尤其著重於保護您資料的隱私與安全，同時提升AI生成結果的安全性與準確性。這套架構將我們對信任的承諾，從政策聲明轉化為遍及整個平台的實際功能。

安全且準確的AI輸出，奠基於動態提供根據與安全資料擷取。值得信賴的AI始於安全且有根據的提示，也就是傳送至大型語言模型(LLM)的一組指示，用來取得實用的結果。動態提供根據會安全地將LLM連接至您的企業資料(例如儲存在Data 360或內部知識庫中的資訊)，並動態擷取經過驗證的資訊。這會要求模型引用並使用值得信賴且經客戶核准的來源，避免LLM產生「幻覺」。安全資料擷取讓使用者能安全存取資料，使生成式AI提示以您的業務脈絡為根據，同時維持權限與資料存取控制。

更重要的是，Trust Layer會實施零資料保留與資料遮罩，確保客戶資料享有最高程度的安全性與隱私保護。零資料保留是一項嚴格政策，提示與生成的回覆絕不會遭到儲存，也不會用於訓練底層的第三方大型語言模型，確保資料始終為客戶專有。此外，資料遮罩會在提示傳送至LLM前，將敏感的個人識別資訊(PII)或專有業務資料替換為無法識別身分的詞元。這能保護機密資訊，同時仍提供LLM產生個人化且實用回覆所需的脈絡。

為維持安全性並落實符合倫理的使用方式，Trust Layer內含有害內容偵測與安全防護機制。這些功能可持續進行監控與篩選，確保生成內容安全、適當，並符合公司與倫理標準。有害內容偵測會運用進階分類模型，即時掃描生成內容並加以分類，檢查其中是否包含仇恨言論、偏見、騷擾或其他違反政策的內容。若識別出有害內容，系統的內容篩選功能會在輸出顯示給終端使用者前，自動加以篩除、封鎖或標示，確保所有人都能獲得更安全且具包容性的體驗。

Salesforce認為，如何以符合倫理的方式使用AI等進階技術，是日益複雜的議題。這項議題必須獲得明確處理，而且不只由我們處理，整個產業都應共同參與。我們歡迎由員工、客戶、合作夥伴和社群等多方利害關係人共同參與對話。

只要攜手解決新興挑戰，並確保這些創新發展納入多元經驗，我們就能運用AI的力量推動正向改變，並以能充分發揮人類潛能的觀點推動AI發展。