L'IA de confiance chez Salesforce

Il ne suffit pas de fournir les capacités technologiques de l'IA, nous devons également avant tout veiller à ce que l'IA soit sûre et inclusive pour tous. C'est pourquoi nous avons créé la couche de confiance Salesforce, un ensemble solide de fonctionnalités et de garde-fous qui protègent la confidentialité et la sécurité de vos données, améliorent la sécurité et la précision de vos résultats d'IA et encouragent l'utilisation responsable de l'IA dans l'ensemble de l'écosystème Salesforce.

Chez Salesforce, nous sommes guidés par nos cinq valeurs fondamentales : la confiance, la réussite client, l'innovation, l'égalité et le développement durable. Nous sommes également très attachés au développement et au déploiement responsables de notre technologie, sous l'égide de notre environnement éthique et humain.

L'intelligence artificielle (IA) est l'une des technologies émergentes les plus susceptibles d'améliorer notre avenir, car elle renforce l'intelligence humaine, amplifie les capacités humaines et fournit des insights exploitables qui permettent d'obtenir de meilleurs résultats pour nos collaborateurs, nos clients et nos partenaires.

Nous sommes convaincus que les avantages de l'IA devraient être accessibles à tous. Mais il ne suffit pas de fournir les capacités technologiques de l'IA, nous devons avant tout veiller à ce que l'IA soit sûre et inclusive pour tous. Nous prenons cette responsabilité au sérieux et nous nous engageons à fournir à nos collaborateurs, clients et partenaires les outils dont ils ont besoin pour développer et utiliser l'IA en toute sécurité, avec précision et dans le respect de l'éthique.

C'est pourquoi nous avons créé la couche de confiance Salesforce pour servir de base architecturale et d'ensemble de garde-fous techniques qui garantissent que chaque interaction avec l'IA dans Salesforce est sécurisée, privée, précise et conforme à nos valeurs éthiques.

En 2018, nous avons commencé à formuler nos principes de confiance en matière d'IA et tenions à nous assurer que ceux-ci étaient spécifiques aux produits, aux cas d'utilisation et aux clients de Salesforce. Pendant un an, nous avons sollicité les commentaires des collaborateurs individuels, des responsables et des dirigeants de toute l'entreprise dans chaque structure, y compris les équipes d'ingénierie, de développement de produits, d'expérience utilisateur, de science des données, du service juridique, de l'égalité, des affaires gouvernementales et du marketing. Les responsables des différents clouds et rôles ont approuvé les principes, y compris Marc Benioff et Keith Block, alors co-PDG de l'entreprise. Comme nous l'expliquons dans notre modèle de maturité éthique de l'IA , même si ce parcours peut sembler long, il s'agit d'une expérience formatrice importante qui permet de s'assurer que tous les membres de l'entreprise ont contribué, compris leur responsabilité dans l'application de ces principes et se sont engagés à les mettre en œuvre dans le cadre de leur travail quotidien.

Nous nous efforçons de garantir les droits humains, de protéger les données qui nous sont transmises, de respecter les normes scientifiques et d'appliquer des politiques de lutte contre les abus. Nous demandons à nos clients d'utiliser notre IA de manière responsable et dans le respect des engagements qu'ils ont pris avec nous, y compris notre politique d'utilisation acceptable .

Nous sommes convaincus que nous sommes garants de nos actes devant nos clients, nos partenaires et la société. Nous chercherons à obtenir des commentaires indépendants en vue d'une amélioration continue de nos pratiques et de nos politiques et nous nous efforcerons de limiter les préjudices subis par les clients et les consommateurs.

Nous veillons à ce que nos clients comprennent le « pourquoi » de chaque recommandation et prédiction basée sur l'IA afin qu'ils puissent prendre des décisions éclairées, identifier les résultats involontaires et limiter les préjudices.

Nous pensons que l'IA est mieux exploitée lorsqu'elle est associée à des compétences humaines, qu'elle augmente les capacités des humains et qu'elle leur permet de prendre de meilleures décisions. Nous entendons créer une technologie qui permette à chacun d'être plus productif et d'avoir un impact plus important au sein de son entreprise.

L'IA se doit d'améliorer la condition humaine et de représenter les valeurs de toutes les personnes concernées, et pas seulement celles des créateurs. Nous ferons évoluer la diversité, promouvrons l'égalité et favoriserons l'équité par le biais de l'IA.

Disposer d'un ensemble de principes ne suffit pas. À mesure que le potentiel de l'IA augmente de manière exponentielle, la responsabilité de garantir une utilisation sûre et inclusive pour tous devient tout aussi essentielle. Vous trouverez ci-dessous des exemples illustrant comment nous avons mis en pratique notre principe d'IA de confiance.

Avant de mettre au point des fonctionnalités d'IA, nous commençons par nous demander si nous pouvons le faire, mais également si nous devrions le faire. Nous travaillons avec des experts externes en matière de droits humains afin d'apprendre, d'évoluer et de découvrir continuellement de nouvelles façons de protéger les droits humains.

Nous sensibilisons nos clients et leur donnons les moyens de prendre des décisions éclairées sur la manière d'utiliser notre IA de manière responsable. Pour ce faire, nous créerons des outils et des ressources pour aider les collaborateurs, les clients et les partenaires de Salesforce à identifier et à réduire les biais dans les systèmes qu'ils construisent et utilisent (par exemple, en identifiant les catégories de données protégées et les variables de remplacement utilisées dans un modèle, en fournissant une transparence sur les facteurs qui influencent le plus les prédictions individuelles), permettant ainsi aux clients et aux partenaires de comprendre la responsabilité qui leur incombe d'adopter l'IA de manière sûre et fiable.

Nous adhérons aux pratiques les plus strictes en matière de sécurité et de protection de la vie privée afin d'anticiper et de limiter les dommages involontaires et de garantir la sécurité de nos produits. Nous respectons les lois applicables à la recherche sur l'IA et à son utilisation. Nous nous efforçons également de respecter les normes scientifiques et de qualité les plus élevées dans nos recherches, en garantissant leur sécurité et en les partageant par le biais de publications évaluées par des pairs, de conférences et d'événements du secteur.

Nous faisons appel à des experts externes en matière de droits humains et d'éthique technologique par l'intermédiaire de notre comité consultatif sur l'utilisation éthique et d'ateliers. Nous invitons également nos clients à nous faire part de leurs commentaires par le biais de comités consultatifs des clients et d'un dialogue ouvert, et nous les intégrons dans notre processus de délibération.

Nous croyons en l'importance de contribuer à notre secteur et à la société en collaborant avec nos pairs par l'intermédiaire de groupes sectoriels, de forums de la société civile et d'organisations gouvernementales (par exemple, le US National Institute of Standards and Technology, le US National AI Advisory Committee, le Singapore's Advisory Council on the Ethical Use of AI and Data) afin d'améliorer continuellement nos pratiques et nos politiques.

Nous permettons aux collaborateurs de poser des questions et de faire part de leurs préoccupations par le biais de canaux tels que notre système anonyme de reporting et de gouvernance d'entreprise en ligne, les canaux Slack et l'adresse e-mail du groupe.

La transparence porte non seulement sur la manière dont nous construisons nos modèles, mais aussi sur les raisons pour lesquelles ils ont fait la prédiction ou la recommandation qu'ils ont faite. Nous publions des fiches de modèle qui décrivent la façon dont les modèles ont été créés, les cas d'utilisation prévus et non prévus, les implications éthiques ou sociétales connues et les scores de performance. Nous fournissons également des explications sur le modèle lorsqu'une prédiction ou une recommandation d'IA est faite.

Nous permettons à nos clients de garder à tout moment le contrôle de leurs données et de leurs modèles. Les données que nous gérons n'appartiennent pas à Salesforce, mais au client. Nous fournissons également aux clients une communication claire sur les conditions d'utilisation et les applications prévues de la capacité d'IA de Salesforce.

Nous nous efforçons de minimiser la complexité de l'IA afin de permettre à tous les niveaux de compétences techniques, et pas seulement aux data scientists les plus expérimentés, de créer des applications d'IA en quelques clics seulement, sans avoir besoin de coder. En outre, nous concevons et dispensons une formation gratuite à l'IA grâce à Trailhead, afin de permettre à chacun d'acquérir les compétences nécessaires pour les postes de la quatrième révolution industrielle. Cela inclut notamment des outils tels que la mesure de l'impact disparate (une définition des biais) et le remplissage automatique des cartes de modèle (comme les étiquettes nutritionnelles pour les modèles), ainsi que la fourniture de conseils dans l'application pour que les clients sachent comment utiliser notre IA de manière responsable.

L'équipe Salesforce AI s'engage à réaliser des avancées en matière de recherche sur l'IA afin de proposer de nouvelles catégories de produits et de s'assurer que nos clients restent à la pointe des progrès technologiques.

Nous testons nos modèles à l'aide d'ensembles de données diversifiés et représentatifs qui sont les plus appropriés à l'utilisation du modèle. Nous cherchons à comprendre l'impact des services d'IA sur un large éventail de clients, d'utilisateurs finaux et de contextes. Nous organisons notamment des ateliers d'analyse des conséquences et des ateliers « Concevoir selon des exigences spécifiques ». De plus, nous nous efforçons de former des équipes inclusives qui reflètent des expériences et des points de vue divers en nous alignant sur notre valeur fondamentale d'égalité.

La couche de confiance Salesforce répond aux principales préoccupations des entreprises telles que la sécurité des données, la conformité réglementaire et la gouvernance éthique en intégrant un ensemble complet de protections directement dans l'architecture de la plateforme. C'est la réponse aux besoins des entreprises en matière d'IA qui est à la fois puissante et intrinsèquement fiable.

La couche de confiance est un ensemble robuste de fonctionnalités et de garde-fous qui forment la mise en œuvre technique de nos principes éthiques. Elle est conçue pour atténuer de manière proactive les risques associés à l'IA générative, en particulier en protégeant la confidentialité et la sécurité de vos données tout en améliorant la sécurité et la précision des résultats générés par l'IA. Cette architecture transforme notre engagement en faveur de la confiance en une réalité opérationnelle à l'échelle de toute la plateforme.

Le fondement de réponses d'IA sécurisées et précises repose sur un ancrage dynamique et une récupération sécurisée des données. L'IA de confiance commence par des prompts sécurisés et solidement ancrés, qui sont des ensembles d'instructions envoyés à un modèle de langage de grande taille (LLM) pour produire un résultat utile. L'ancrage dynamique connecte en toute sécurité le LLM aux données de votre entreprise (telles que les informations stockées dans Data 360 ou les bases de connaissances internes) et récupère de manière dynamique les informations validées. Cela empêche le LLM de produire des « hallucinations » en forçant le modèle à citer et à utiliser des sources fiables et approuvées par le client. La récupération sécurisée des données permet aux utilisateurs d'accéder en toute sécurité aux données pour créer des prompts d'IA génératives, dans le contexte de votre entreprise, tout en gérant les autorisations et les contrôles d'accès aux données.

Surtout, la couche de confiance met en œuvre une politique « Aucune rétention des données » et le masquage des données afin de garantir le maximum de sécurité et de confidentialité pour les données des clients. La politique « Aucune rétention des données » garantit que les prompts et les réponses générées ne sont jamais stockés ou utilisés pour entraîner les modèles de langage de grande taille tiers sous-jacents, de sorte que les données restent la propriété exclusive du client. En complément de cela, le masquage des données est le processus qui remplace les informations personnelles identifiables (PII) sensibles ou les données commerciales propriétaires par des jetons non identifiables avant que le prompt ne soit envoyé au LLM. Cela protège les informations confidentielles tout en fournissant le contexte nécessaire au LLM pour générer une réponse personnalisée et pertinente.

Pour maintenir la sécurité et assurer une utilisation éthique, la couche de confiance comprend la détection de toxicité et des garde-fous de sécurité. Ces fonctionnalités assurent une surveillance et un filtrage continus afin de garantir que le contenu généré est sûr, approprié et conforme aux normes de l'entreprise et aux principes éthiques. La détection de toxicité utilise des modèles de classification avancés pour analyser et classer le contenu généré en temps réel afin de repérer les discours haineux, les biais, le harcèlement ou d'autres violations des politiques. Si un contenu préjudiciable est identifié, le filtrage du contenu du système filtre, bloque ou signale automatiquement la réponse avant qu'elle ne soit affichée à l'utilisateur final, ce qui garantit une expérience plus sûre et plus inclusive pour tous.

Chez Salesforce, nous pensons que l'utilisation éthique des technologies avancées telles que l'IA est une question de plus en plus complexe. Elle doit être abordée avec clarté, non seulement par nous, mais également par l'ensemble des acteurs du secteur. Nous sommes favorables à un dialogue entre les différentes parties prenantes, y compris nos collaborateurs, nos clients, nos partenaires et nos communautés.

En nous réunissant pour résoudre les problèmes émergents et veiller à ce que ces nouvelles avancées prennent en compte les différentes expériences, nous pouvons favoriser un changement positif grâce au pouvoir de l'IA, et orienter le développement de l'IA dans une perspective qui nous aide à tirer le meilleur parti du potentiel humain.