Vertrouwde AI bij Salesforce

Alleen de technologische mogelijkheden van AI beschikbaar maken is niet voldoende, het is ook onze taak om ervoor te zorgen dat AI voor iedereen veilig en inclusief is. Daarom hebben we de Salesforce Trust-laag ontwikkeld, een robuuste reeks functies en Agentforce-vangrails die de privacy en beveiliging van je data waarborgen, de veiligheid en nauwkeurigheid van je AI-resultaten verbeteren en het verantwoorde gebruik van AI in het Salesforce-ecosysteem bevorderen.

Bij Salesforce hebben we vijf kernwaarden: vertrouwen, klantsucces, innovatie, gelijkheid en duurzaamheid. We maken ons hard voor een verantwoorde ontwikkeling en implementatie van onze technologie, een taak die we hebben neergelegd bij onze afdeling voor ethisch en menswaardig gebruik.

Een van de nieuwe technologieën die veel voor de wereld kan betekenen, is AI (kunstmatige intelligentie). AI vormt een uitbreiding van de menselijke intelligentie, vergroot onze mogelijkheden en produceert concrete insights die onze medewerkers, klanten en partners ten goede komen.

Wij vinden dat iedereen van de voordelen van AI moet kunnen profiteren. Maar alleen de technologische mogelijkheden van AI beschikbaar maken is niet voldoende, het is ook onze taak om ervoor te zorgen dat AI voor iedereen veilig en inclusief is. We nemen die taak heel serieus en doen ons best om onze medewerkers, klanten en partners de tools te geven om AI veilig, nauwkeurig en ethisch verantwoord te ontwikkelen en te gebruiken.

Daarom hebben we de Salesforce Trust-laag ontwikkeld: deze vormt de architectonische basis en biedt een reeks technische Agentforce-vangrails die ervoor zorgen dat elke AI-interactie in Salesforce veilig, vertrouwelijk en nauwkeurig is, en ethisch afgestemd is op onze waarden.

In 2018 zijn we begonnen met het formuleren van onze principes van vertrouwde AI. Die moesten specifiek zijn afgestemd op de producten, gebruiksscenario's en klanten van Salesforce. Een jaar lang hebben we feedback verzameld van betrokken personen, managers en andere leidinggevenden in alle afdelingen van ons bedrijf, waaronder engineering, productontwikkeling, UX, data science, legal, gelijkheid, overheidszaken en marketing. Leidinggevenden van hoog tot laag hebben de principes onderschreven, ook onze co-CEO's Marc Benioff en Keith Block in die tijd. Zoals we aangeven in ons Rijpheidsmodel voor ethische AI was het een lang, maar noodzakelijk traject. Alleen zo konden we er zeker van zijn dat iedereen in het bedrijf had meegedacht, dat iedereen begreep dat we ons allemaal aan die principes moeten houden en dat iedereen ze moet toepassen in de dagelijkse werkzaamheden.

We streven ernaar om de mensenrechten te waarborgen, om de aan ons toevertrouwde data te beschermen, om wetenschappelijke standaarden aan te houden en beleidsregels tegen misbruik te volgen. We verwachten van onze klanten dat zij onze AI op een verantwoorde manier en in overeenstemming met onze wederzijdse afspraken gebruiken, zoals ons Beleid voor aanvaardbaar gebruik .

We vinden dat we een verantwoordingsplicht hebben tegenover onze klanten, partners en de samenleving. We verzamelen onafhankelijke feedback, zodat we onze processen en beleidsregels doorlopend kunnen verbeteren. We doen ons best om te voorkomen dat onze klanten en consumenten benadeeld worden.

We streven ernaar dat klanten altijd de gedachte begrijpen achter een aanbeveling of voorspelling van AI. Zo kunnen ze een weloverwogen beslissing nemen, eventuele onbedoelde resultaten signaleren en neveneffecten indammen.

We zijn van mening dat AI het best náást de mens kan worden ingezet, als extra hulpmiddel om betere beslissingen te kunnen nemen. We willen technologie ontwikkelen die iedereen in staat stelt om productiever te zijn en in hun organisatie meer impact te hebben.

AI moet ten goede komen aan de mensheid in het algemeen. Daarom moeten alle waarden van alle betrokkenen worden meegenomen, niet alleen die van de ontwikkelaars. We stimuleren diversiteit en gelijkheid door middel van AI.

Principes hebben is één ding, maar vervolgens moet je daar ook wat mee doen. Naarmate het potentieel van AI exponentieel groeit, neemt ook de cruciale verantwoordelijkheid toe om ervoor te zorgen dat het gebruik ervan veilig en inclusief is voor iedereen. Hieronder staan voorbeelden van hoe we ons vertrouwde AI-principe in de praktijk hebben toegepast.

Voordat we AI-functies gaan ontwikkelen, stellen we onszelf niet alleen de vraag of we iets kunnen, maar ook of we het wel moeten doen. We werken samen met externe experts op het gebied van mensenrechten om altijd te blijven leren en groeien en om de mensenrechten altijd optimaal te kunnen beschermen.

We geven onze klanten alle informatie die zij nodig hebben om weloverwogen beslissingen te nemen over het verantwoorde gebruik van onze AI. Voor dat doel maken we tools en bronnen waarmee onze medewerkers, klanten en partners kunnen achterhalen of er sprake is van bias in de systemen die bouwen en gebruiken zijn, en zo ja, daar iets aan kunnen doen. Denk bijvoorbeeld aan het markeren van gevallen waarin bepaalde beschermde data en proxyvariabelen in een model worden gebruikt of het vermelden van factoren die losstaande voorspellingen het meest beïnvloeden. Op die manier willen we onze klanten en partners ook op het hart drukken dat ze de verantwoordelijkheid hebben om AI op een veilige, betrouwbare manier te gebruiken.

We volgen de strengste beveiligings- en privacynormen om te anticiperen op onvoorziene negatieve gevolgen en die te beperken, zodat onze producten zo veilig mogelijk zijn. We leven alle relevante wet- en regelgeving inzake het onderzoek naar en gebruik van AI na. We proberen bij ons onderzoek aan de hoogste wetenschappelijke en kwalitatieve standaarden te voldoen om een hoge mate van veiligheid te verzekeren. We delen ons onderzoek in intercollegiaal getoetste publicaties, conferenties en sectorevenementen.

Via onze ethisch-adviesraad en workshops overleggen we met externe experts op het gebied van mensenrechten en de ethische aspecten van technologie. We vragen onze klanten ook om feedback (via adviesraden en open dialogen) en wegen die mee bij onze besluitvorming.

We vinden het belangrijk om iets terug te doen voor onze sector en de samenleving. Dat doen we door in sectorverenigingen, maatschappelijke forums en overheidsinstanties met vakgenoten samen te werken (bijvoorbeeld met het Amerikaanse National Institute of Standards and Technology, het National AI Advisory Committee en het Advisory Council on the Ethical Use of AI and Data van Singapore). Dat zien we ook als een middel om onze processen en beleidsregels steeds verder te verbeteren.

Onze medewerkers kunnen via allerlei kanalen anoniem vragen stellen en opmerkingen naar voren brengen, zoals via een intern onlinemeldingssysteem, Slack-kanalen en een e-mailgroep.

We zijn niet alleen transparant over de manier waarop we onze modellen maken, maar ook over de reden achter een bepaalde voorspelling of aanbeveling. We publiceren modelkaarten waarop wordt beschreven hoe we onze modellen hebben gemaakt, gebruiksscenario's met gewenste en ongewenste resultaten, bekende ethische of maatschappelijke implicaties en prestatiescores. We geven ook een toelichting van het model bij een door AI gegenereerde voorspelling of aanbeveling.

Onze klanten hebben altijd de controle over hun eigen data en modellen. De data die wij beheren, zijn niet van Salesforce maar van de klant. Klanten krijgen ook heldere informatie over de gebruiksvoorwaarden en de beoogde toepassingen van de AI van Salesforce.

We proberen de complexiteit van AI om te leiden, zodat niet alleen volleerde datascientists, maar mensen van elk technisch niveau met enkele muisklikken AI-applicaties kunnen maken. Ze hoeven dan dus geen code te schrijven. Bovendien maken we zelf voorlichtingsmateriaal over AI dat we gratis beschikbaar stellen via Trailhead. Zo kan iedereen zich de vaardigheden eigen maken om de arbeidsmarkt van de vierde industriële revolutie te kunnen betreden. Denk aan tools die de disproportionele impact (een vorm van vertekening) meten of modelkaarten automatisch invullen (zoals voedingslabels voor modellen). Verder geven we in onze apps aanwijzingen over verantwoord gebruik van AI.

Het AI-team van Salesforce houdt zich bezig met baanbrekend AI-onderzoek, waarvan de resultaten worden meegenomen naar nieuwe productcategorieën. Zo zorgen we ervoor dat onze klanten altijd over het nieuwste van het nieuwste beschikken.

We testen onze modellen met diverse en representatieve datasets die het best passen bij de beoogde toepassing van het bewuste model. We proberen de impact van AI-diensten op zoveel mogelijk verschillende klanten, eindgebruikers en contexten in te schatten. Daarvoor houden we Consequence Scanning-workshopsen Build with Intention-workshops. In het verlengde van gelijkheid als een van onze kernwaarden proberen we ook inclusieve teams samen te stellen die uiteenlopende ervaringen en standpunten vertegenwoordigen.

De Trust-laag van Salesforce biedt een oplossing voor belangrijke aandachtspunten voor ondernemingen, zoals gegevensbeveiliging, naleving van regelgeving en ethisch beheer, door een uitgebreide reeks beveiligingsmaatregelen rechtstreeks in de architectuur van het platform te integreren. Deze oplossing is het antwoord op de zakelijke behoefte aan AI die zowel krachtig als inherent betrouwbaar is.

De Trust-laag is een robuuste reeks functies en Agentforce-vangrails die de technische implementatie van onze ethische principes vormen. Deze is ontworpen om proactief de risico's van generatieve AI te beperken, met name door de privacy en beveiliging van je data te waarborgen en tegelijkertijd de veiligheid en nauwkeurigheid van de door AI gegenereerde resultaten te verbeteren. Deze architectuur zet ons streven naar vertrouwen om van een beleidsverklaring in een functionele, platformbrede realiteit.

De basis van veilige en nauwkeurige AI-output is afhankelijk van een dynamische basis en het veilig ophalen van gegevens. Vertrouwde AI begint met taakaanwijzingen met een veilige basis. Dit zijn sets instructies die naar een groot taalmodel (LLM) worden gestuurd om een nuttig resultaat te leveren. Dankzij de dynamische basis wordt de LLM veilig verbonden met je bedrijfsdata (zoals informatie die is opgeslagen in Data 360 of interne knowledge bases) en wordt de gevalideerde informatie dynamisch opgehaald. Dit voorkomt dat de LLM 'hallucinaties' produceert,doordat het model wordt gedwongen om betrouwbare, door de klant goedgekeurde bronnen te vermelden en te gebruiken. Door gegevens veilig op te halen, krijgen gebruikers beveiligde toegang tot de data om generatieve AI-taakaanwijzingen te baseren op de context van je bedrijf, terwijl je de machtigingen en datatoegangscontroles handhaaft.

Het is cruciaal dat de Trust-laag geen enkele gegevens bewaart en daarnaast data maskeert om de grootst mogelijke beveiliging en privacy van klantdata te garanderen. 'Zero data retention' (bewaren van geen enkele gegevens) een strikt beleid waarbij de taakaanwijzingen en gegenereerde antwoorden nooit worden opgeslagen of worden gebruikt om de onderliggende grote taalmodellen van derden te trainen, waardoor de data uitsluitend eigendom van de klant blijven. Daarnaast is er maskering van data: het proces dat gevoelige persoonlijk identificeerbare informatie (PII) of bedrijfsdata vervangt door niet-identificeerbare tokens voordat de taakaanwijzing naar de LLM wordt verzonden. Dit beschermt vertrouwelijke informatie en biedt tegelijkertijd de nodige details voor het LLM om een gepersonaliseerd en nuttig antwoord te genereren.

Om de veiligheid te waarborgen en ethisch gebruik te handhaven, bevat de Trust-laag toxiciteitsdetectie en Agentforce-veiligheidsvangrails. Deze functies bieden continue monitoring en filtering om ervoor te zorgen dat gegenereerde content veilig en passend is en is afgestemd op bedrijfs- en ethische normen. Toxiciteitsdetectie maakt gebruik van geavanceerde classificatiemodellen om gegenereerde content in realtime te scannen en te categoriseren op tekenen van haatuitingen, vooringenomenheid, intimidatie of andere beleidsschendingen. Als schadelijke content wordt geïdentificeerd, zal de contentfiltering van het systeem de output automatisch filteren, blokkeren of markeren voordat deze aan de eindgebruiker wordt weergegeven, waardoor een veiligere en inclusievere ervaring voor iedereen wordt gegarandeerd.

Bij Salesforce beschouwen we het ethisch verantwoorde gebruik van een geavanceerde technologie als AI als een complexe kwestie die alleen maar nog complexer wordt. Daar moeten we dus iets mee, en met wij bedoelen we niet alleen onszelf, maar onze hele sector. We staan open voor een dialoog met alle stakeholders: onze medewerkers, klanten, partners en communities.

Samen kunnen we alle uitdagingen het hoofd bieden en ervoor zorgen dat alle nieuwe toepassingen rekening houden met uiteenlopende ervaringen. Op die manier kunnen we met alle mogelijkheden van AI positieve veranderingen teweegbrengen en AI doorontwikkelen vanuit het perspectief dat dit een middel is om het potentieel van de mens optimaal te benutten.