Heb je een AI-agent nodig? Vijf scenario’s die je in overweging moet nemen

AI-agents zijn tot geweldige dingen in staat. Ze kunnen complexe retourzendingen afhandelen voor retailbedrijven. Ze kunnen mede bepalen of patiënten in aanmerking komen voor klinische trials. En ze kunnen huizenkopers helpen bij het vinden van mogelijke hypotheken, iets wat anders erg complex en verwarrend kan zijn. 

AI-agents zijn bijzonder indrukwekkend, maar kunstmatige intelligentie is niet voor elke situatie geschikt. Weten wanneer je er niet mee moet werken (of nee moet zeggen) is net zo belangrijk als weten wanneer je het wel kunt gebruiken. Maar hoe neem je de juiste beslissing? Kijk eens naar deze voorbeelden. 

1. Als je bedrijf er nog niet klaar voor is

In veel opzichten lijkt het voorbereiden op het gebruik van een AI-agent op het aanleggen van een tuin. Als je een gezonde, productieve tuin wilt, moet je eerst ongewenste planten weghalen, daarna de grond verrijken en vervolgens het juiste moment bepalen om te planten.  

Zo werkt het ook met een agent. Je moet eerst goed voor ogen hebben welke workflows of regels de AI-agent moet volgen. Een AI-agent kan een zegen zijn voor je bedrijf, maar je moet wel exact aangeven wat de AI-agent moet doen en waarom. Bovendien is het verstandig om te starten met een haalbare use case die direct resultaten oplevert.

Als je dat allemaal niet doet, is de agent mogelijk gedoemd te mislukken. Bereid je dus goed voor. Bepaal je workflow, stel regels op voor die workflow en bedenk goed welke bedrijfsdoelen je ermee wilt behalen.  

2. Als je je data nog moet opschonen en organiseren

Een van de belangrijkste stappen in de voorbereiding op een AI-agent is het opschonen en organiseren van je data. De kwaliteit van je agent wordt immers bepaald door de data waarmee je ‘m traint.   

Zo zijn de contactinformatie van je klanten en salesdata misschien niet meer actueel. Andere data kan verspreid zijn over geïsoleerde platformen. Of misschien heeft je bedrijf meer tijd nodig om de data te verzamelen die nodig is om een agent te trainen. 

Als agents worden getraind met data van slechte kwaliteit, kan dit tot onnauwkeurige resultaten leiden. Ze kunnen bijvoorbeeld een foutieve status van een voorkeursklant gebruiken bij het boeken van een vlucht. Of ze kunnen de verkeerde naam gebruiken wanneer ze iemand helpen bij het aanvragen van een uitkering. 

Met goede en solide data is je agent waarschijnlijk een stuk succesvoller. Een van de voordelen van Agentforce, het Salesforce-platform voor het ontwikkelen van AI-agents, is dat het al gebruikmaakt van je klantdata. Ook Data Cloud, de grootschalige data-engine van Salesforce, is geïntegreerd met het platform. Dit zorgt voor een uniforme databasis, waarbij agents toegang hebben tot nauwkeurige, realtime informatie die aansluit bij je bedrijfsdoelstellingen. Het uiteindelijke resultaat? Als je agents goed georganiseerde data gebruiken op een in hoge mate geünificeerd platform, presteren ze waarschijnlijk een stuk beter. 

3. Als de regels nog niet duidelijk zijn

Tijdens het instellen moet je je AI-agent duidelijke instructies geven over wat de AI-agent wel en niet mag doen. Zo’n mechanisme voor integriteitsbescherming zorgt er ook voor dat de agent alleen toegang heeft tot de data die de agent nodig heeft om de taken uit te voeren. Zo blijft gevoelige data beschermd. 

Zonder dit soort beperkingen kan je AI-agent zich ongepast of onethisch gedragen. Mogelijk onthult de AI-agent persoonlijke informatie die geheim moet blijven of gebruikt de AI-agent informatie die leidt tot bevooroordeelde beslissingen. Hiervan zijn talrijke voorbeelden bekend. Zo moest een groot technologiebedrijf de AI-wervingstool afdanken omdat deze vrouwen discrimineerde. Ook was er een AI-systeem voor het diagnosticeren van huidkanker dat minder nauwkeurige resultaten opleverde voor mensen met een donkere huid. 

Voor de duidelijkheid: deze vertekening werd niet veroorzaakt door de AI-agent. De boosdoener was de data waarmee de AI-agent was getraind. Maar als je agent deze vertekening in stand houdt, moet je wachten met het implementeren van agentic AI totdat je het probleem hebt opgelost. 

De Einstein Trust Layer heeft verschillende functies, waaronder de detectie en maskering van persoonlijk identificeerbare informatie (PII). Zo bescherm je je data en zorg je ervoor dat het systeem verantwoord en ethisch functioneert. Agentforce detecteert automatisch wanneer gevoelige data zoals de gezondheidstoestand, het inkomen of het burgerservicenummer worden gedeeld. Deze data worden vervolgens gemaskeerd, zodat externe partijen deze niet kunnen zien.  

De Trust Layer voegt een extra beschermingslaag toe door gegevens niet te bewaren. De AI slaat dus geen data op die is opgenomen in de prompt of de output. Ook kan de Trust Layer toxiciteit detecteren.

Zodra je de integriteitsbescherming hebt ingesteld, controleer je de werking daarvan met adversarial testing. Hiermee test je je agent op vertekening en ongepast gedrag. Een zorgverlener kan de AI-agent bijvoorbeeld vragen om informatie te delen, zoals de gezondheidstoestand van een patiënt. Als de agent dit doet terwijl het niet zou mogen, moet je de regels aanpassen. 

Om te testen op vertekening, kan een bank de AI-agent vragen naar de meest geschikte lening voor potentiële klanten met de namen Evert-Jan van Duyven, Melanie Middelkoop en Mohammed Achachbar. Hun aanvraaginformatie is verder identiek. “Als je agent voor elke aanvraag verschillende aanbevelingen geeft, is dat een probleem”, aldus Kathy Baxter, vicepresident van Salesforce en hoofdontwikkelaar verantwoorde AI en technologie. De oplossing: blijven schaven aan je richtlijnen.

4. Als menselijke betrokkenheid essentieel is

AI-agents kunnen een grote rol spelen in de gezondheidszorg, die te kampen heeft met een ernstig tekort aan arbeidskrachten en burn-outs bij zorgprofessionals. Bedrijven als Adobe Population Health gebruiken al agentic AI om tijd te besparen bij alledaagse taken. 

Het bedrijf, dat proactief de gezondheidszorg van mensen beheert, gebruikt sinds kort Agentforce om verpleegkundigen te helpen bij het samenvatten van patiëntendossiers. Voorheen kostte dit de verpleegkundigen ongeveer 40 minuten. Met Agentforce hebben ze er 75% minder tijd voor nodig. Hierdoor houden verpleegkundigen meer tijd over om te doen wat ze echt belangrijk vinden: het luisteren naar en zorgen voor patiënten. 

AI-agents kunnen verpleegkundigen en artsen ook helpen patiëntdossiers te beoordelen en geautomatiseerde overzichten te maken. Bij het gebruik van agents in de gezondheidszorg blijft menselijke betrokkenheid echter essentieel. Denk daarbij aan directe patiëntenzorg, medisch advies en het bepalen of iemand in aanmerking komt voor behandeling. Hoewel de resultaten het welzijn van de patiënt aanzienlijk kunnen verbeteren, moeten zorgprofessionals de AI-aanbevelingen altijd eerst zelf beoordelen om passende zorg te garanderen. Het beleid voor acceptabel gebruik van AI van Salesforce verbiedt overigens het gebruik van AI-output om geautomatiseerde beslissingen te nemen in zeer gevoelige situaties en voor individueel advies, bijvoorbeeld in de gezondheidszorg.

Ook wanneer beslissingen van invloed zijn op de financiële mogelijkheden van mensen, mag je niet uitsluitend vertrouwen op autonome agents en moet je hun suggesties uitsluitend als advies beschouwen. Met andere woorden; agents mogen niet beslissen of een persoon wordt aangenomen voor een baan, in aanmerking komt voor een lening of toegang krijgt tot overheidssteun zoals de zorgtoeslag of sociale zekerheid. 

“Elke beslissing over kansen of toegang tot overheidssteun moet door een mens worden genomen”, zegt Baxter. 

AI is nog niet in staat om deze beslissingen op een betrouwbare en onpartijdige manier te nemen. Denk maar eens aan het bedrijf waarvan de AI automatisch vrouwelijke sollicitanten van 55 jaar of ouder en mannelijke sollicitanten van 60 en ouder afwees. Of aan het onderzoek van Lehigh University, waaruit bleek dat Large Language Models (LLM’s) consequent adviseerden om meer leningen te weigeren en hogere rentetarieven te berekenen aan aanvragers uit bepaalde etnische groepen in vergelijking met verder identieke aanvragers uit andere groepen.

Als er levens en bestaansmiddelen op het spel staan, heb je altijd een deskundige mens nodig. Maar AI kan nog steeds fungeren als een nuttige assistent. “Een agent kan je veel tijd besparen door financiële overzichten, beleidsregels of juridische documenten heel snel door te lezen en in toegankelijke taal voor je samen te vatten”, aldus Baxter. 

5. Als het de AI-regelgeving zou kunnen overtreden

Naarmate AI geavanceerder wordt, veranderen de wetten die deze technologie reguleren ook. Zo heeft de Europese Unie in 2018 de Algemene verordening gegevensbescherming en in 2024 de Verordening artificiële intelligentie (AI Act) aangenomen. De eerste beschermt de persoonlijke data van burgers, terwijl de laatste ervoor zorgt dat AI veilig, transparant, traceerbaar en niet-discriminerend is. 

Door deze regelgeving is het illegaal om AI manipulatief te gebruiken of om een scoresysteem voor social media te hanteren dat het gedrag van mensen volgt. 

Een klein aantal Amerikaanse staten heeft ook AI-regelgeving ingevoerd. “In Californië en een aantal andere staten mag je AI niet gebruiken om je voor te doen als een mens,” zegt Baxter. “Je moet duidelijk aangeven dat je publiek te maken heeft met AI.”  

In de stad New York moeten werkgevers sollicitanten op de hoogte stellen als ze AI gebruiken om beslissingen te nemen over werving of promotie. Bedrijven zijn bovendien verplicht tot het uitvoeren en publiceren van onafhankelijke audits die hun technologie testen op vertekening met betrekking tot gender en ras. 

Voordat je een agent in gebruik neemt, moet je er dus voor zorgen dat je voldoet aan de toepasselijke regelgeving. 

We leren nog steeds over AI

Vind je de opmars van AI overweldigend? Dan ben je niet de enige. AI, generatieve AI en AI-agents ontwikkelen zich zo snel dat iedereen nog aan het leren is hoe ermee om te gaan. 

Het is wel duidelijk dat agents ideaal zijn voor het automatiseren van taken, het stroomlijnen van workflows, het bieden van klantenservice en het analyseren van grote datasets. Nu moet je nog te weten komen hoe je ze het beste kunt implementeren en waar je vooraf rekening mee moet houden.