Betrodd AI hos Salesforce

Det räcker inte att bara leverera AI:s tekniska kapacitet – vi har också ett viktigt ansvar för att se till att AI är säker och inkluderande för alla. Därför har vi byggt Salesforces Förtroendelager, en robust uppsättning funktioner och skyddsåtgärder som skyddar dina uppgifters integritet och säkerhet, förbättrar AI-resultatens säkerhet och noggrannhet och främjar ansvarsfull användning av AI i hela Salesforce-ekosystemet.

På Salesforce vägleds vi av våra fem kärnvärden: förtroende, kundframgång, innovation, jämlikhet och hållbarhet. Vi är också mycket engagerade i en ansvarsfull utveckling och implementering av vår teknik, som leds av vårt Office of Ethical and Humane Use.

En av de framväxande tekniker som har stor potential att förbättra världen är artificiell intelligens (AI) eftersom den förstärker den mänskliga intelligensen, förstärker de mänskliga förmågorna och tillhandahåller användbara insikter som leder till bättre resultat för våra anställda, kunder och partner.

Vi anser att fördelarna med AI bör vara tillgängliga för alla. Men det räcker inte att bara leverera AI:s tekniska kapacitet – vi har också ett viktigt ansvar för att se till att AI är säker och inkluderande för alla. Vi tar det ansvaret på allvar och förser våra anställda, kunder och partner med de verktyg som de behöver för att utveckla och använda AI på ett säkert, korrekt och etiskt sätt.

Vi har därför byggt Salesforces Förtroendelager, som är tänkt att fungera som en grund och en uppsättning tekniska skyddsåtgärder som säkerställer att varje AI-interaktion i Salesforce är säker, privat, korrekt och etiskt anpassad till våra värderingar.

År 2018 började vi formulera våra principer för betrodd AI och ville säkerställa att de var specifika för Salesforces produkter, användningsfall och kunder. Under ett års tid bad vi om feedback från enskilda medarbetare och chefer från hela företaget i alla organisationer, bland annat teknik, produktutveckling, UX, datavetenskap, juridik, jämlikhet, myndighetsfrågor och marknadsföring. Chefer på olika nivåer och med olika roller godkände principerna, inklusive våra dåvarande vd:ar Marc Benioff och Keith Block. Som vi diskuterar i vår Etiska AI-mognadsmodell är det, trots att vägen kan kännas lång, en viktig formande upplevelse för att säkerställa att alla i företaget har bidragit, förstår sitt ansvar när det gäller att följa dessa principer och har gått med på att implementera dem i sitt dagliga arbete.

Vi strävar efter att skydda mänskliga rättigheter, för att skydda de data vi är betrodda med, följa vetenskapliga standarder och tillämpa policyer mot missbruk. Vi förväntar oss att våra kunder använder vår AI ansvarsfullt och i enlighet med sina avtal med oss, inklusive vår Policy för godtagbar användning .

Vi tror på att ta ansvar gentemot våra kunder, partner och samhället. Vi efterfrågar oberoende feedback för att kontinuerligt förbättra vår praxis och våra policyer och arbeta för att minska de skador som kan drabba kunder och konsumenter.

Vi strävar efter att säkerställa att våra kunder förstår varje AI-driven rekommendation och förutsägelse, så att de kan fatta välgrundade beslut, identifiera oavsiktliga resultat och mildra skadorna.

Vi anser att AI bäst används tillsammans med den mänskliga förmågan, för att komplettera och förstärka människors förmågor och göra det möjligt för dem att fatta bättre beslut. Vi strävar efter att skapa teknik som gör det möjligt för alla att bli mer produktiva och uppnå ett större genomslag inom sina organisationer.

AI bör förbättra livet för människor och representera värdena för alla som påverkas, inte bara skaparna. Vi främjar mångfald, jämlikhet och rättvisa genom AI.

Det räcker inte att ha en uppsättning principer. Eftersom potentialen hos AI växer exponentiellt blir det allt viktigare att säkerställa att användningen av denna är säker och inkluderande för alla. Nedan följer några exempel på hur vi har omsatt vår princip för betrodd AI i praktiken.

Vi börjar med att fråga inte bara om vi kan göra något, utan också om vi bör göra det, innan vi bygger några AI-funktioner. Vi samarbetar med externa experter på mänskliga rättigheter för att kontinuerligt lära oss, utvecklas och upptäcka nya sätt att skydda mänskliga rättigheter.

Vi utbildar våra kunder och ger dem möjlighet att fatta välgrundade beslut om hur de ska använda vår AI på ett ansvarsfullt sätt. Vi gör detta genom att skapa verktyg och resurser för att hjälpa Salesforces anställda, kunder och partner att identifiera och begränsa partiskhet i de system som de bygger och använder (t.ex. flagga när skyddade datakategorier och proxyvariabler används i en modell, för att skapa insyn i faktorer som påverkar individuella förutsägelser), vilket gör det möjligt för kunder och partner att förstå det ansvar som de har för att införa AI på ett säkert och tillförlitligt sätt.

Vi följer de högsta säkerhets- och integritetsstandarderna för att hjälpa till att förutse och mildra oavsiktliga skador och hålla våra produkter säkra. Vi följer gällande lagar som styr AI-forskning och AI-användning. Vi strävar också efter att uppfylla de högsta vetenskapliga standarderna och kvalitetsstandarderna i vår forskning, säkerställa att den är säker och dela den med hjälp av expertgranskade publikationer, konferenser och branschevenemang.

Vi samarbetar med externa experter på mänskliga rättigheter och tekniketik genom vårt råd för etisk användning och våra workshoppar. Vi efterfrågar också feedback från våra kunder genom kundrådgivning och öppen dialog och införlivar den i vårt arbete.

Vi tror på vikten av att ge tillbaka till vår bransch och vårt samhälle genom att samarbeta med våra kollegor via branschgrupper, forum för det civila samhället och statliga organisationer (t.ex. USA:s nationella institut för standarder och teknik, USA:s nationella rådgivande AI-kommitté, Singapores rådgivande råd för en etisk användning av AI och data ) för att kontinuerligt förbättra våra metoder och policyer.

Vi gör det möjligt för medarbetare att ta upp frågor och problem via kanaler som vårt anonyma onlinesystem för företagsrapportering och styrning, Slack-kanaler och gruppvisa e-postadresser.

Transparens inkluderar inte bara hur vi bygger våra modeller, utan också varför de gjorde den förutsägelse eller rekommendation som de gjorde. Vi offentliggör modellkort som beskriver hur modeller skapades, avsiktliga och oavsiktliga användningsfall, kända etiska eller samhälleliga konsekvenser och prestandaresultat. Vi erbjuder oss också att förklara en modell när en AI-förutsägelse eller AI-rekommendation görs.

Vi gör det möjligt för kunder att hela tiden fortsätta att ha kontroll över sina data och modeller. De data som vi hanterar tillhör inte Salesforce – de tillhör kunden. Vi ger också kunderna tydlig information om användningsvillkoren för och de avsedda användningsområdena för Salesforces AI-kapacitet.

Vi strävar efter att göra AI mindre komplex för att göra det möjligt för människor på alla tekniska nivåer – inte bara avancerade dataforskare – att bygga AI-applikationer med bara klick, inte kod. Dessutom tar vi fram och erbjuder gratis AI-utbildning via Trailhead så att vem som helst kan få de färdigheter som behövs för jobben i den fjärde industriella revolutionen. Detta inkluderar verktyg som att mäta olika slags påverkan (en definition av partiskhet) och automatiskt fylla i modellkort (som näringsetiketter för modeller), samt ge vägledning i appen så att kunderna vet hur de ska använda vår AI på ett ansvarsfullt sätt.

Salesforces AI-team strävar efter att leverera AI-relaterade forskningsgenombrott för att informera nya produktkategorier och säkerställa att våra kunder alltid ligger i framkant inom den tekniska utvecklingen.

Vi testar våra modeller med hjälp av olika och representativa datamängder som är de som lämpar sig bäst för hur modellen används. Vi strävar efter att förstå AI-tjänsternas inverkan på ett brett spektrum av kunder, slutanvändare och sammanhang. Detta inkluderar att genomföra workshoppar för konsekvensskanning och workshoppar för medvetet byggande. Och vi strävar efter att bygga inkluderande team som representerar olika upplevelser och synsätt i linje med vårt kärnvärde jämlikhet.

Salesforces förtroendelager tar itu med viktiga företagsfrågor som datasäkerhet, regelefterlevnad och etisk styrning genom att bygga in en omfattande uppsättning skyddsåtgärder direkt i plattformens arkitektur. Detta bemöter företagets behov av AI som är både kraftfull och pålitlig.

Förtroendelagret är en robust uppsättning funktioner och skyddsåtgärder som utgör den tekniska implementeringen av våra etiska principer. Det är utformat för att proaktivt minska riskerna med generativ AI, särskilt genom att skydda integriteten för och säkerheten hos dina data samtidigt som säkerheten och noggrannheten i fråga om de AI-genererade resultaten förbättras. Denna arkitektur flyttar vårt förtroendeåtagande från en policyförklaring till en funktionell, plattformsomfattande verklighet.

Grunden för säkra och korrekta AI-resultat bygger på dynamisk grundning och säker datahämtning. Betrodd AI börjar med säkert grundade promptar, dvs. instruktioner som skickas till en stor språkmodell (LLM) för att returnera ett användbart resultat. Dynamisk grundning kopplar LLM säkert till dina företagsdata (såsom information som lagras i Data 360 eller interna kunskapsbaser) och hämtar på ett dynamiskt sätt den validerade informationen. Detta förhindrar LLM från att producera ”hallucinationer” genom att tvinga modellen att citera och använda betrodda, kundgodkända källor. Säker datahämtning gör det möjligt för användarna att komma åt data på ett säkert sätt för att grunda promptar för generativ AI i sammanhang som rör er verksamhet, samtidigt som behörighet och dataåtkomstkontroller bibehålls.

Det är mycket viktigt att Förtroendelagret implementerar noll datalagring och datamaskering för att säkerställa högsta möjliga säkerhet och integritet för kundernas data. Ingen datalagring är en strikt policy där promptarna och de svar som genereras aldrig lagras eller används för att träna underliggande stora språkmodeller från tredje parter, vilket garanterar att data förblir kundens exklusiva egendom. Som ett tillägg till detta är datamaskering den process som ersätter känslig personligt identifierbar information eller proprietära affärsdata med icke-identifierbara tokens innan prompten skickas till LLM. Detta skyddar konfidentiell information samtidigt som datamaskeringen fortfarande ger den kontext som LLM behöver för att generera ett personligt och användbart svar.

För att bevara säkerheten och upprätthålla en etisk användning inkluderar Förtroendelagret toxicitetsdetektering och skyddsåtgärder. Dessa funktioner möjliggör kontinuerlig övervakning och filtrering för att säkerställa att det innehåll som genereras är säkert, lämpligt och i linje med företagets standarder och etiska standarder. Toxicitetsdetektering använder sig av avancerade klassificeringsmodeller för att skanna och kategorisera genererat innehåll i realtid efter tecken på hatpropaganda, partiskhet, trakasserier eller andra policyöverträdelser. Om skadligt innehåll identifieras kommer systemets innehållsfiltrering automatiskt att filtrera, blockera eller flagga resultatet innan det visas för slutanvändaren, vilket garanterar en säkrare och mer inkluderande upplevelse för alla.

På Salesforce anser vi att etisk användning av avancerad teknik som AI håller på att bli en allt mer komplex fråga. Denna måste hanteras ordentligt – inte bara av oss, utan av hela vår bransch. Vi välkomnar en dialog med flera intressenter som inkluderar våra anställda, kunder, partner och diskussionsgrupper.

Genom att samarbeta för att lösa nya utmaningar och säkerställa att dessa nya framsteg tar hänsyn till olika upplevelser kan vi åstadkomma en positiv förändring med kraften hos AI – och driva på utvecklingen av AI med ett perspektiv som hjälper oss att få ut det mesta av den mänskliga potentialen.