Vertrauenswürdige KI bei Salesforce

Es reicht nicht aus, nur die technologischen Fähigkeiten von KI bereitzustellen – wir tragen auch die Verantwortung dafür, dass KI für alle sicher und inklusiv ist. Deshalb haben wir die Salesforce Vertrauensebene entwickelt: eine Reihe von Funktionen und Leitlinien, die den Datenschutz und die Sicherheit Ihrer Daten schützen, die Sicherheit und Genauigkeit Ihrer KI-Ergebnisse verbessern und den verantwortungsvollen Einsatz von KI im gesamten Salesforce Ökosystem fördern.

Wir bei Salesforce orientieren uns an unseren fünf Grundwerten: Vertrauen, Kundenerfolg, Innovation, Chancengleichheit und Nachhaltigkeit. Wir engagieren uns auch für die verantwortungsvolle Entwicklung und den Einsatz unserer Technologie, die von unserem „Office of Ethical and Humane Use“ getragen wird.

Eine der vielversprechenden neuen Technologien Verbesserung der Lage in der Welt ist die künstliche Intelligenz (KI), da sie die menschliche Intelligenz ergänzt, menschliche Fähigkeiten erweitert und umsetzbare Erkenntnisse liefert, die für unsere Mitarbeiter:innen, Kund:innen und Partner bessere Ergebnisse erzielen.

Wir glauben, dass die Vorteile von KI für alle zugänglich sein sollten. Aber es reicht nicht aus, nur die technologischen Fähigkeiten von KI bereitzustellen. Wir haben eine wichtige Verantwortung dafür, dass KI für alle sicher und inklusiv ist. Wir nehmen diese Verantwortung ernst und setzen uns dafür ein, unseren Mitarbeiter:innen, Kund:innen und Partnern die Tools zur Verfügung zu stellen, die sie benötigen, um KI sicher, präzise und ethisch gerecht zu entwickeln und einzusetzen.

Aus diesem Grund haben wir die Salesforce Vertrauensebene entwickelt, die als architektonische Grundlage und als Reihe technischer Leitlinien fungiert, die sicherstellen, dass jede KI-Interaktion in Salesforce sicher, datenschutzkonform, präzise und im Einklang mit unseren ethischen Werten erfolgt.

2018 haben wir damit begonnen, unsere vertrauenswürdigen KI-Prinzipien zu formulieren und sicherzustellen, dass sie speziell auf die Produkte, Anwendungsfälle und Kund:innen von Salesforce zugeschnitten sind. Es war eine jahrelange Reise, in der zahlreiche Mitarbeiter:innen, Manager:innen und Führungskräfte im gesamten Unternehmen um Feedback gebeten wurden, einschließlich den Bereichen Technik, Produktentwicklung, UX, Data Science, Rechtsabteilung, Chancengleichheit, öffentliche Angelegenheiten und Marketing. Führungskräfte in verschiedenen Clouds und Rollen haben die Prinzipien genehmigt, darunter unsere damaligen Co-CEOs Marc Benioff und Keith Block. Wie wir in unserem Reifegradmodell für ethischen Einsatz von KI erläutern, mag diese Reise zwar lang erscheinen, aber sie ist eine prägende Erfahrung, um sicherzustellen, dass alle im Unternehmen dazu beigetragen haben, ihre Verantwortung für die Umsetzung dieser Prinzipien zu verstehen und sich dafür zu entscheiden, sie in ihrer täglichen Arbeit umzusetzen.

Wir setzen uns dafür ein, die Menschenrechte zu wahren, die uns anvertrauten Daten zu schützen, wissenschaftliche Standards einzuhalten und Maßnahmen gegen Missbrauch durchzusetzen. Wir erwarten von unseren Kund:innen, dass sie unsere KI verantwortungsvoll und in Übereinstimmung mit ihren Vereinbarungen mit uns einsetzen, einschließlich unserer Richtlinie zur akzeptablen Nutzung .

Wir glauben daran, dass wir uns gegenüber unseren Kund:innen, Partnern und der Gesellschaft verantworten. Wir werden unabhängiges Feedback einholen, um unsere Praktiken und Richtlinien kontinuierlich zu verbessern, und uns bemühen, den Schaden für Kund:innen und Verbraucher:innen zu minimieren.

Wir möchten sicherstellen, dass unsere Kund:innen das „Warum“ hinter jeder KI-gestützten Empfehlung und Prognose verstehen, damit sie fundierte Entscheidungen treffen, unbeabsichtigte Ergebnisse identifizieren und Schäden mindern können.

Wir glauben, dass KI am besten genutzt wird, wenn sie mit menschlichen Fähigkeiten kombiniert wird, Menschen unterstützt und ihnen ermöglicht, bessere Entscheidungen zu treffen. Wir möchten Technologien entwickeln, die es allen Beteiligten ermöglichen, produktiver zu arbeiten und in ihrem Unternehmen mehr Wirkung zu erzielen.

KI sollte die Lebensbedingungen der Menschen verbessern und die Werte aller Betroffenen widerspiegeln, nicht nur die der Entwickler:innen. Wir werden mithilfe von KI Vielfalt vorantreiben, Gleichberechtigung fördern und Gerechtigkeit stärken.

Es reicht nicht aus, nur eine Reihe von Prinzipien zu haben. So wie das Potenzial der KI exponentiell wächst, wächst auch die große Verantwortung, dafür zu sorgen, dass ihr Einsatz für alle sicher und inklusiv ist. Im Folgenden finden Sie Beispiele dafür, wie wir unser vertrauenswürdiges KI-Prinzip in die Praxis umgesetzt haben.

Bevor wir KI-Funktionen entwickeln, fragen wir uns zunächst nicht nur, ob wir etwas tun können, sondern auch, ob wir es tun sollten. Wir arbeiten mit externen Menschenrechtsexperten zusammen, um kontinuierlich dazuzulernen, zu wachsen und neue Möglichkeiten zum Schutz der Menschenrechte zu entdecken.

Wir klären unsere Kund:innen auf und befähigen sie, fundierte Entscheidungen darüber zu treffen, wie sie unsere KI verantwortungsbewusst einsetzen können. Dazu erstellen wir Tools und Ressourcen, die Salesforce Mitarbeiter:innen, Kund:innen und Partner dabei unterstützen, Voreingenommenheit in den Systemen zu identifizieren und zu mindern, die sie erstellen und verwenden (z. B. durch die Kennzeichnung, wenn geschützte Datenkategorien und Proxy-Variablen in einem Modell verwendet werden, sowie durch die Schaffung von Transparenz hinsichtlich der Faktoren, die individuelle Vorhersagen am stärksten beeinflussen), damit Kund:innen und Partner sich ihrer Verantwortung bewusst werden, KI auf sichere und zuverlässige Weise einzusetzen.

Wir halten uns an die höchsten Sicherheits- und Datenschutzpraktiken, um unbeabsichtigte Schäden zu antizipieren und zu mindern und unsere Produkte zu schützen. Wir halten die geltenden Gesetze für die Erforschung und Nutzung von KI ein. Darüber hinaus sind wir bestrebt, bei unserer Forschung die höchsten wissenschaftlichen und qualitativen Standards zu erfüllen, ihre Sicherheit zu gewährleisten und die Ergebnisse durch begutachtete Veröffentlichungen, Konferenzen und Branchenveranstaltungen zu verbreiten.

Wir interagieren mit externen Expert:innen für Menschenrechte und Technologieethik im Rahmen unseres Beratungsgremiums für ethische Nutzung und Workshops. Außerdem holen wir über Kundenbeiräte und im offenen Dialog Feedback von unseren Kund:innen ein und lassen dieses in unseren Entscheidungsprozess einfließen.

Wir sind davon überzeugt, dass es wichtig ist, unserer Branche und der Gesellschaft etwas zurückzugeben, indem wir mit unseren Kolleg:innen in Branchengruppen, Foren der Zivilgesellschaft und staatlichen Organisationen (z. B. dem US-amerikanischen National Institute of Standards and Technology, dem US-amerikanischen National AI Advisory Committee und dem singapurischen Advisory Council on the Ethical Use of AI and Data) zusammenarbeiten, um unsere Praktiken und Richtlinien kontinuierlich zu verbessern.

Wir ermöglichen es Mitarbeiter:innen, Fragen und Bedenken über Kanäle wie unser anonymes Online-Reporting- und Governance-System für Unternehmen, Slack-Kanäle und Gruppen-E-Mail-Adressen zu äußern.

Transparenz umfasst nicht nur die Art und Weise, wie wir unsere Modelle erstellen, sondern auch die Gründe, warum sie zu einer bestimmten Vorhersage oder Empfehlung gelangt sind. Wir veröffentlichen Modellkarten, die beschreiben, wie Modelle erstellt wurden, beabsichtigte und unbeabsichtigte Anwendungsfälle, bekannte ethische oder gesellschaftliche Auswirkungen und Leistungsbewertungen. Wir sorgen außerdem für die Erklärbarkeit des Modells, wenn eine KI-Prognose oder -Empfehlung abgegeben wird.

Wir ermöglichen es unseren Kund:innen, jederzeit die Kontrolle über ihre Daten und Modelle zu behalten. Die Daten, die wir verwalten, gehören nicht zu Salesforce, sondern zu den Kund:innen. Außerdem informieren wir unsere Kund:innen transparent über die Nutzungsbedingungen und die vorgesehenen Anwendungsbereiche der KI-Funktionen von Salesforce.

Wir versuchen, die Komplexität von KI zu abstrahieren, damit Mitarbeiter:innen aller technischen Fähigkeiten – nicht nur Data Scientists – KI-Anwendungen mit Klicks anstatt Code erstellen können. Darüber hinaus erstellen und bieten wir kostenlose KI-Schulungen über Trailhead an, damit alle die Fähigkeiten erwerben können, die sie für die Jobs der vierten industriellen Revolution benötigen. Dazu gehören Tools wie das Messen unterschiedlicher Auswirkungen (eine Definition von Voreingenommenheit) und das automatische Ausfüllen von Modellkarten (ähnlich wie Nährwertangaben für Modelle) sowie die Bereitstellung von Anleitungen innerhalb der App, damit Kund:innen wissen, wie sie unsere KI verantwortungsbewusst nutzen können.

Das KI-Team von Salesforce setzt sich dafür ein, KI-Forschungsergebnisse zu liefern, um neue Produktkategorien zu informieren und sicherzustellen, dass unsere Kund:innen bei technologischen Fortschritten stets an der Spitze stehen.

Wir testen unsere Modelle anhand vielfältiger und repräsentativer Datensätze, die für die Verwendung des Modells am besten geeignet sind. Wir möchten die Auswirkungen von KI-Services auf eine breite Palette von Kund:innen, Endbenutzer:innen und Kontexte verstehen. Dazu gehören die Durchführung von Workshops zur Folgenabschätzung und Workshops zum Erstellen mit Absicht. Und wir sind bestrebt, integrative Teams aufzubauen, die vielfältige Erfahrungen und Sichtweisen repräsentieren, indem wir uns an unserem Grundwert der Chancengleichheit orientieren.

Die Salesforce Vertrauensebene löst zentrale Unternehmensanliegen wie Datensicherheit, Einhaltung gesetzlicher Vorschriften und ethische Governance, indem sie einen umfassenden Satz von Schutzmaßnahmen direkt in die Architektur der Plattform integriert. Sie ist die Antwort auf den Bedarf von Unternehmen an KI, die sowohl leistungsstark als auch inhärent vertrauenswürdig ist.

Die Vertrauensebene ist eine Reihe robuster Funktionen und Leitlinien, die die technische Umsetzung unserer ethischen Grundsätze bilden. Sie wurde entwickelt, um die Risiken im Zusammenhang mit generativer KI proaktiv zu mindern, insbesondere indem sie die Privatsphäre und Sicherheit Ihrer Daten schützt und gleichzeitig die Sicherheit und Genauigkeit der KI-generierten Ergebnisse verbessert. Mit dieser Architektur wird unser Bekenntnis zu Vertrauen von einer bloßen Grundsatzerklärung zu einer plattformweit gelebten Realität.

Die Grundlage für sichere und genaue KI-Outputs basiert auf dynamischer Kontextbildung und dem sicheren Abrufen von Daten. Vertrauenswürdige KI beginnt mit soliden Prompts, bei denen es sich um eine Reihe von Anweisungen handelt, die großes Sprachmodell (LLM) gesendet werden, um ein nützliches Ergebnis zurückzugeben. Dynamische Kontextbildung verbindet das LLM sicher mit Ihren Unternehmensdaten (z. B. Informationen, die in Data 360 oder internen Knowledge Bases gespeichert sind) und ruft die validierten Informationen dynamisch ab. Dies verhindert, dass das LLM „Halluzinationen“ produziert, indem es das Modell zwingt, vertrauenswürdige, von Kunden genehmigte Quellen zu zitieren und zu verwenden. Ermöglichen Sie User:innen den sicheren Zugriff auf die Daten, um generative KI-Prompts im Kontext Ihres Unternehmens zu erstellen, während Sie die Berechtigungen und Datenzugriffskontrollen beibehalten.

Entscheidend ist, dass die Vertrauensebene Null-Datenaufbewahrung und Datenmaskierung implementiert, um die größtmögliche Sicherheit und den Datenschutz für Kundendaten zu gewährleisten. Die Null-Datenaufbewahrung ist eine strenge Richtlinie, bei der die Prompts und generierten Antworten niemals gespeichert oder zum Trainieren der zugrunde liegenden großen Sprachmodelle von Drittanbietern verwendet werden. So wird sichergestellt, dass die Daten ausschließlich im Eigentum der Kund:innen verbleiben. Ergänzend dazu ist die Datenmaskierung der Prozess, der sensible personenbezogene Daten oder proprietäre Geschäftsdaten durch nicht identifizierbare Token ersetzt, bevor der Prompt an das LLM gesendet wird. Dadurch werden vertrauliche Informationen geschützt und gleichzeitig der erforderliche Kontext für das LLM bereitgestellt, um eine personalisierte und nützliche Antwort zu generieren.

Um die Sicherheit zu gewährleisten und die ethische Nutzung zu gewährleisten, umfasst die Vertrauensebene Toxizitätserkennung und Sicherheitsleitlinien. Diese Funktionen bieten eine kontinuierliche Überwachung und Filterung, um sicherzustellen, dass generierte Inhalte sicher und angemessen sind und den Unternehmens- und ethischen Standards entsprechen. Die Toxizitätserkennung nutzt fortschrittliche Klassifizierungsmodelle, um generierte Inhalte in Echtzeit auf Anzeichen von Hassreden, Voreingenommenheit, Belästigung oder anderen Richtlinienverstößen zu scannen und zu kategorisieren. Sollten schädliche Inhalte identifiziert werden, filtert, blockiert oder markiert die Inhaltsfilterung des Systems den Output automatisch, bevor er den Enduser:innen angezeigt wird. So wird ein sichereres und inklusiveres Erlebnis für alle gewährleistet.

Wir bei Salesforce glauben, dass der ethische Einsatz fortschrittlicher Technologien wie KI ein zunehmend komplexeres Thema ist. Sie muss klar angegangen werden – nicht nur von uns, sondern von unserer gesamten Branche. Wir begrüßen einen Multi-Stakeholder-Dialog, der unsere Mitarbeiter:innen, Kund:innen, Partner und Communities umfasst.

Indem wir gemeinsam neue Herausforderungen meistern und sicherstellen, dass diese neuen Fortschritte vielfältige Erfahrungen berücksichtigen, können wir mit der Leistungsfähigkeit von KI positive Veränderungen vorantreiben – und die Entwicklung von KI mit der Perspektive vorantreiben, die uns hilft, das menschliche Potenzial optimal auszuschöpfen.