Salesforceが考える信頼できるAI

AIの技術的な能力のみを提供するだけでは不十分です。私たちには、AIを誰にとっても安全でインクルーシブなものにするという重要な責務もあります。Salesforce Trust Layerを構築した理由はそこにあります。この堅牢な機能とガードレールのセットは、データのプライバシーとセキュリティを守り、AIの出力結果の安全性と精度を高めて、Salesforceエコシステム全体でAIの責任ある使用を促進します。

Salesforceでは、信頼、カスタマーサクセス、イノベーション、平等、サステナビリティという5つのコアバリューを掲げています。また、Office of Ethical and Humane Use of Technology（テクノロジーの倫理的、人道的な利用に関する審議会）が推進するテクノロジーの責任ある開発と導入にも真摯に取り組んでいます。

世界の現状を改善する大きな可能性を秘めた新たなテクノロジーの1つが人工知能（AI）です。AIは人間の知能を拡張し、人間の能力を増幅し、従業員、お客様、パートナーにより良い成果をもたらす実践的なインサイトを提供します。

私たちは、AIのメリットをすべての人に行き届くようにする必要があると考えています。しかし、AIの技術的な能力のみを提供するだけでは不十分です。私たちには、AIを誰にとっても安全でインクルーシブなものにするという重要な責務があります。この責務を真摯に受け止め、従業員、お客様、パートナーに、AIを安全に、正確に、倫理的に開発して使用するために必要なツールを提供することに取り組んでいます。

そのために構築されたSalesforce Trust Layerはアーキテクチャの基盤としての役割を果たし、SalesforceでのAIとのすべてのインタラクションが安全、非公開、正確であり、Salesforceの価値観に倫理的に沿ったものにするための技術的ガードレール一式でもあります。

2018年に、Salesforceは信頼できるAIの原則を明確化し、Salesforceの製品、ユースケース、お客様に特化した内容にする取り組みを始めました。1年をかけて、エンジニアリング、商品開発、UX、データサイエンス、法務、イクオリティ、政策渉外、マーケティングなど会社全体のあらゆる組織の個人寄稿者、マネージャー、経営陣から広く意見を募りました。クラウドや役職を問わず、当時共同CEOだったマーク・ベニオフやキース・ブロックをはじめとする経営幹部がこの原則を承認しました。この道のりは長く感じるかもしれませんが、倫理的AI成熟度モデル で説明しているように、社内の全員がこれらの原則に対して意見を出し、原則を実践する責任を理解し、日々の業務に導入するという形成期の重要な体験です。

私たちは、人権の保護、お客様から信頼されてお預かりしたデータの保護、科学的基準の遵守、不正使用防止ポリシーの実施に努めています。私たちは、お客様が当社のAIを責任を持って使用されること、また、当社の利用規約 を含む当社との契約を遵守されることを期待しています。

私たちは、お客様、パートナー、社会に対して説明責任を果たすことの大切さを信じています。私たちは、実践とポリシーを改善し続けるために独立したフィードバックを求め、お客様と消費者の被害を軽減するように努めます。

私たちは、AIを活用したレコメンデーションと予測の背後にある「理由」をお客様にご理解いただけるよう努めています。これにより、お客様は情報にもとづいた意思決定を行い、意図しない結果を特定し、被害を軽減できます。

私たちは、AIは人間の能力と組み合わせた時に最も効果を発揮し、人間の力を拡張してより良い意思決定を可能にすると考えています。私たちは、すべての人の生産性を高め、組織内でより大きなインパクトをもたらすテクノロジーの創出を目指しています。

AIは人間の現状を改善し、クリエイターに限らず影響を受けるすべての人の価値観を体現する必要があります。私たちはAIを通じて多様性を推進し、平等を促進し、公平性を育みます。

原則を掲げるだけでは不十分です。AIの可能性が飛躍的に高まる中、誰もが安全かつインクルーシブに活用できるようにするという重要な責任も大きくなっています。以下に、信頼できるAIの原則を実践に移した例をご紹介します。

私たちはAI機能を構築する前に、何かをできるかだけでなく、それをすべきかを問いかけることから始めます。外部の人権専門家と連携し、人権保護について継続的に学び、成長し、人権を守るための新たな方法を発見しています。

お客様にも、責任を持ってAIを使用する方法について情報にもとづいて意思決定できるように教育と支援を行います。そのために、Salesforceの従業員、お客様、パートナーが自ら構築して使用しているシステム内のバイアスを特定して軽減するためのツールとリソースを作成しています（例：保護されたデータカテゴリとプロキシ変数がモデルで使用された時にフラグを立て、個々の予測に最も影響する要因について透明性を提供する）。これにより、お客様とパートナーはAIを安全に信頼できる方法で導入する責任について理解できます。

私たちは、最高水準のセキュリティとプライバシー対策を遵守し、意図しない被害を予測して軽減し、製品の安全性を確保します。AIの研究と使用に適用される法律を遵守します。また、研究において科学的にも品質面でも最高水準を満たすように努め、研究の安全性を確保し、査読済みの出版物、カンファレンス、業界イベントを通じて共有しています。

私たちは、倫理的利用諮問委員会やワークショップを通じて、外部の人権およびテクノロジー倫理の専門家と対話しています。また、顧客諮問委員会を通じてお客様からのフィードバックを募り、オープンな対話を行い、それを審議プロセスに組み込みます。

私たちは、業界団体、市民社会フォーラム、政府機関（米国国立標準技術研究所、米国国立AI諮問委員会、シンガポールのAIおよびデータの倫理的利用に関する諮問委員会など）を通じて同業者と協力することによって業界や社会に貢献し、慣行とポリシーを継続的に改善することが重要であると考えています。

Salesforceでは、匿名のオンライン企業報告およびガバナンスシステム、Slackチャンネル、グループメールアドレスなどのチャネルを通じて、従業員が質問や懸念を提起できるようにしています。

透明性には、モデルの構築方法だけでなく、モデルが予測やレコメンデーションを行った理由も含まれます。私たちは、モデルの作成方法、意図されたユースケースと意図しないユースケース、既知の倫理的または社会的影響、パフォーマンススコアを説明するモデルカードを公開しています。また、AIの予測やレコメンデーションが行われた場合にも、モデルの説明可能性を提供します。

Salesforceは、お客様が常にデータとモデルを管理できるようにします。当社が管理するデータは、Salesforceには帰属せず、お客様のものです。また、SalesforceのAI機能の利用規約と意図された用途について、お客様に明確に開示しています。

AIの複雑さを取り除き、上級データサイエンティストだけでなく、あらゆる技術スキルレベルの人々がコードを使わずにクリックするだけでAIアプリケーションを構築できるようにします。さらに、SalesforceではAI教育コンテンツを作成してTrailheadを通じて無料で提供し、誰もが第4次産業革命で生まれる仕事に必要なスキルを習得できるようにしています。これには、差別的効果（バイアスの定義の1つ）の測定ツールや、モデルカード（モデルの栄養成分表示ラベルなど）の自動入力ツール、AIの責任ある使用方法をお客様に知っていただくためアプリ内ガイダンスを表示するツールなどが含まれます。

SalesforceのAIチームは、新しい製品カテゴリについて情報を提供し、お客様が常に技術の進歩の最先端に触れられるよう、AI研究のブレークスルーを提供することに取り組んでいます。

私たちは、モデルの使用方法に最適な多様で代表的なデータセットを使用してモデルをテストします。AIサービスが幅広いお客様、エンドユーザー、コンテキストに与える影響を把握しようとしています。これには、Consequence ScanningワークショップやBuild with Intentionワークショップ の実施が含まれます。また、コアバリューの「平等」に沿って、多様な体験や視点を反映したインクルーシブなチームの構築に取り組んでいます。

Salesforce Trust Layerは、包括的な保護対策一式をプラットフォームのアーキテクチャに直接組み込むことで、データセキュリティ、規制コンプライアンス、倫理的ガバナンスなどの企業の主要な懸念に対処します。これは、強力であることと本質的に信頼できることを両立するAIという企業のニーズに対する答えです。

Trust Layerは、倫理原則を技術的に実装するための堅牢な機能とガードレールのセットです。生成AIに関連するリスクについて先を見越して軽減するように設計されています。具体的には、AIが生成する結果の安全性と精度を向上させながら、データのプライバシーとセキュリティを保護します。このアーキテクチャにより、信頼に対するコミットメントはポリシーステートメントから現実的なプラットフォーム全体の機能へと移行します。

安全で正確なAI出力の基盤となるのは、動的グラウンディングとセキュアなデータ検索です。信頼できるAIは、安全にグラウンディングされたプロンプトから始まります。このプロンプトは、有用な結果を返すために大規模言語モデル（LLM）に送信される一連の指示です。動的グラウンディングは、LLMをエンタープライズデータ（Data 360に保存されている情報や内部知識ベースなど）に安全に接続し、検証済みの情報を動的に検索します。これにより、お客様が承認した信頼できる情報源を引用して使用するようモデルに強制することで、LLMによる「ハルシネーション」の生成を防ぎます。セキュアなデータ検索は、ユーザーが権限とデータアクセス制御を維持しながら、自社ビジネスに関するコンテキストで生成AIプロンプトをグラウンディングするためのデータに安全にアクセスできるようにします。

なにより重要なのは、Trust Layerがゼロデータリテンションとデータマスキングを実装し、お客様のデータのセキュリティとプライバシーを最大限に確保することです。ゼロデータリテンションは厳格なポリシーであり、プロンプトと生成された応答は保存されず、基盤となるサードパーティの大規模言語モデルのトレーニングにも使用されないため、データがお客様だけの所有物であることを保証します。これを補うデータマスキングは、プロンプトがLLMに送信される前に、機密性の高い個人を特定できる情報（PII）や社外秘のビジネスデータを特定不能なトークンに置き換えるプロセスです。これにより、機密情報を保護しながら、LLMがパーソナライズされた有用な応答を生成するために必要なコンテキストを提供できます。

安全性を維持し、倫理的な使用を維持するために、Trust Layerには有害性検出とセキュリティガードレールが含まれています。これらの機能は、生成されたコンテンツが安全で適切であり、企業基準および倫理基準に沿ったものであることを確認するための継続的な監視とフィルタリングを提供します。有害性検出は、高度な分類モデルを使用して生成されたコンテンツをリアルタイムでスキャンして分類し、ヘイトスピーチ、バイアス、ハラスメント、その他のポリシー違反の兆候を検出します。有害なコンテンツが特定された場合、システムのコンテンツフィルタリングはその出力内容がエンドユーザーに表示される前に自動的にフィルタリング、ブロック、フラグ付けし、すべての人にとってより安全でインクルーシブな体験を保証します。

Salesforceでは、AIなどの高度なテクノロジーの倫理的使用は複雑さを増している課題であると考えています。この課題は、当社だけでなく業界全体が明確に対処しなければならないものです。私たちは、従業員、お客様、パートナー、コミュニティなど、さまざまなステークホルダーとの対話を歓迎します。

新たな課題を解決するために協力し、新たな進歩に多様な体験を取り入れることで、AIの力でポジティブな変化を推進し、人間の可能性を最大限に活用するという視点でAIの開発を推進できます。