Generative AI: 5 richtlijnen voor verantwoorde ontwikkeling

Generatieve AI (ook wel GAI genoemd) kan de manier waarop we leven en werken behoorlijk veranderen. Zelfs voor de meest innovatieve bedrijven is het relevant om na te denken over de manier waarop ze generatieve AI in hun manier van werken kunnen toepassen.

Maar werken met GAI is niet zonder risico. GAI heeft heel vaak gelijk, maar niet altijd. Bedrijven willen deze nieuwe, veelbelovende technologie zo snel mogelijk op de markt brengen. Toch is het cruciaal dat we kritisch blijven nadenken. Natuurlijk is het fijn als bedrijven kunnen profiteren van de technische mogelijkheden die GAI biedt, maar er is ook een andere kant: de innovatie moet een verantwoordelijke innovatie zijn. Medewerkers, partners en klanten moeten weten hoe ze op een veilige, correcte en ethische manier met deze vorm van kunstmatige intelligentie kunnen werken.

Generatieve AI bij Salesforce

Binnen Salesforce (en in de rest van de wereld van zakelijke technologie) is het potentieel van GAI gigantisch. AI is een integraal onderdeel van ons Customer 360 Platform en binnen de zakelijke toepassingen van Salesforce levert Einstein AI zo’n 200 miljard voorspellingen per dag. Dit gebeurt binnen de: 

• Sales, waar AI inzichten gebruikt om te identificeren wat de beste volgende stap is en hoe deals sneller gesloten kunnen worden. 
• Service, waarbij AI persoonlijke gesprekken voelt, antwoorden geeft op veel terugkomende vragen, repetitieve taken uitvoert en ervoor zorgt dat medewerkers van je klantenservice meer tijd overhouden voor andere taken. 
• Marketing, waarbij AI klantgedrag analyseert en de timing, targeting en inhoud van marketingactiviteiten daarop inricht. 
• Commerce, waarbij AI een sterk gepersonaliseerde winkelervaring creëert en slimmere e-commerce mogelijk maakt.

Generatieve AI kan onze klanten zelfs helpen om op nieuwe en meer gepersonaliseerde manieren te verbinden met hun doelgroep. De interactie op het gebied van sales, service, marketing, commerce en IT kan hierdoor enorm verbeteren. We zijn ook aan het onderzoeken of het werkt om AI te laten coderen en zo onze klanten te helpen, zelfs de klanten die geen gecertificeerde Salesforce developer in huis hebben. Zo kunnen ze sneller hoogwaardige codes schrijven waar minder CPU voor nodig is. 

Richtlijnen voor betrouwbare generatieve AI 

Bij een innovatie als deze is het belangrijk om te zorgen dat je de ethiek niet uit het oog verliest. We willen dat onze klanten op een verantwoorde manier kunnen innoveren. Bovendien willen we problemen voorkomen in plaats van het achteraf op te moeten lossen. 

Generatieve AI biedt oneindig veel kansen waar we veel mee kunnen en willen. We willen echter voorkomen dat die kansen omslaan in risico’s en problemen. Daarom werken we aan Betrouwbare AI Principes waarin richtlijnen staan die zich focussen op een verantwoorde ontwikkeling en innovatie van GAI. 

Maar we blijven meebewegen met de ontwikkelingen die zich voordoen en nog voor zullen doen, zodat we kunnen blijven leren. 

Hieronder vind je 5 richtlijnen die wij volgen om de ontwikkeling van generatieve AI zo goed mogelijk te laten verlopen, binnen Salesforce en daarbuiten. 

1. Accuratesse. Het is belangrijk dat we controleerbare resultaten leveren. Hierbij moet er een balans zijn tussen accuratesse, precisie en de mogelijkheid om modellen te blijven trainen. Er moet altijd kritisch worden gekeken naar de antwoorden die AI geeft. Dit kan door bronnen te vermelden, door te achterhalen waarom AI de antwoorden geeft die het geeft (denk aan chain-of-thought-prompts) bepaalde stukken tekst extra te controleren (denk aan cijfers, aanbevelingen en data) en te voorkomen dat bepaalde taken volledig worden geautomatiseerd (waaronder het lanceren van een code in een productieomgeving waar geen menselijke controle plaatsvindt). 
   
2. Veiligheid. Bij elk AI-model is het belangrijk om vooroordelen, toxiciteit en schadelijke uitspraken te beperken. Hier moet altijd controle op plaatsvinden. Daarnaast is het cruciaal dat persoonlijk identificeerbare informatie (PII) die in data aanwezig is, niet lekt. 
   
3. Eerlijkheid. Bij het verzamelen van data om onze modellen te trainen en te evalueren, moet de herkomst van data gerespecteerd worden. Ook moet er toestemming zijn om gegevens te gebruiken (denk aan open-source, waarbij gebruikers gegevens hebben verstrekt). Het is ook belangrijk om naar je klanten toe transparant te zijn over het feit dat de klant communiceert met AI (bijvoorbeeld in een chatbot of bij het gebruik van een watermerk). 
   
4. Zelfstandigheid. Er zijn situaties waarin het beter is om het volledige proces te automatiseren. Er zijn ook situaties waarin AI de mens moet ondersteunen, maar niet moet vervangen. Daarom is het belangrijk dat er menselijke controle plaatsvindt. Het is een constante zoektocht naar de juiste balans tussen het gebruikmaken van de mogelijkheden van AI en het kritische oog van de mens dat altijd nodig zal blijven. 
   
5. Duurzaamheid. We willen modellen ontwikkelen die steeds nauwkeuriger zijn. De ontwikkelingen moeten aan de andere kant ook bijdragen aan een betere wereld. In het geval van AI-modellen is groter niet altijd beter. In sommige gevallen presteert een klein, beter getraind model beter dan een groot model dat minder is getraind door de mens.