AI-governance voor AI-agents: heb jij een strategie?
Als AI niet langer alleen antwoorden geeft maar ook transacties uitvoert, moet AI governance onderdeel zijn van je strategie.
Key Takeaways
AI-agents zijn niet langer toekomstmuziek. Ze worden nu al ingezet door ondernemingen om klantcases door te zetten, transacties goed te keuren, klinische aanbevelingen te verkrijgen, kredieten te beoordelen, fraude te detecteren en meer.
De vraag is niet langer of je ze wel moet inzetten, maar of je erop kunt vertrouwen. En precies daarom wordt AI-governance steeds belangrijker.
Ga in gedachten eens anderhalf jaar terug in de tijd. Toen was AI eenvoudig: je typte iets in en kreeg een antwoord terug. Hoe anders is dat nu. Agents geven niet meer alleen antwoord, maar voeren zelf ook acties uit:
- In de gezondheidszorg vergelijken agents klinische databases om zorgverleners te voorzien van realtime aanbevelingen.
- In de financiële dienstverlening keuren ze leningen goed en verwerken ze claims, waar ze die voorheen alleen ter beoordeling doorstuurden.
- In de retail verzamelen agents klantinteracties via alle kanalen om productaanbevelingen te geven, prijzen te optimaliseren en de voorraad te controleren.
Deze ontwikkeling vraagt om een andere benadering van AI-governance en beheer. De gevolgen van fouten zijn ingrijpender dan slechts een verkeerde reactie van een chatbot. Het gaat nu om zakelijke beslissingen die worden vastgelegd, uitgevoerd en vaak onomkeerbaar zijn.
Waarom AI-governance essentieel is om fouten van AI-agents te voorkomen
Als je leest over AI-agents die fouten maken met zakelijke gevolgen, mag je één ongemakkelijke waarheid niet uit het oog verliezen: die fouten zijn de agents niet aan te rekenen. Ook in deze situaties functioneren ze precies zoals ze zijn ontworpen.
Het probleem is dat ze toegang hebben gekregen tot klantinteracties en verplichtingen kunnen aangaan zonder dat er beleidsbeperkingen, gecontroleerde data of een audittrail zijn meegegeven.
Als je agent je CRM kan raadplegen of een API kan aanroepen, moet je antwoord kunnen geven op de volgende vragen:
- Weet hij welke data hij mag zien?
- Controleert hij de margedrempels voordat een korting wordt goedgekeurd
- Weet hij wanneer hij moet stoppen en moet doorverwijzen naar een mens
- Houdt hij een gedetailleerd auditlogboek bij van zijn acties?
Als je dit allemaal niet zeker weet, heb je een onbeheerde agent. Onbeheerde agents maken geen fouten, maar nemen beslissingen. En als je agent een verkeerde beslissing neemt, zijn de gevolgen voor jouw bedrijf.
Een praktijkvoorbeeld. Stel je voor dat een salesmedewerker aan een agent vraagt: “Kunnen we [klant] 15% korting geven om de deal te sluiten?”
Zonder beheerde data kijkt de agent alleen naar de ordergeschiedenis. Ziet hij dat dit account een goede klant is, dan antwoordt hij: “Goedgekeurd. 15% korting is toegepast. De e-mail is verzonden.” Dat was het.
Het probleem is dat er geen beleidscontrole is uitgevoerd, waardoor de margedata niet is gevalideerd. Het blijkt dat dit account al onder jouw margedrempel zit en je er met die korting van 15% geld op toelegt. De e-mail is al verstuurd. De toezegging is gedaan. Er is geen audittrail. Een week later ontdekt de manager van de medewerker dat de deal met verlies is afgerond.
De oplossing: een gecentraliseerd AI-governance platform
De meeste ondernemingen opereren in een gefragmenteerd landschap. Ze gebruiken integratie-, beheer- en dataplatforms van verschillende leveranciers die door verschillende teams worden beheerd, zonder een gedeelde laag die alles met elkaar verbindt.
Als je een agent in zo’n omgeving inzet, neemt hij al die afzonderlijke problemen over en versterkt hij ze zelfs. Hij handelt sneller dan welk menselijk auditproces ook en je kunt AI-governance niet achteraf toevoegen. De enige oplossing is een gecentraliseerde governance- en beheerlaag.
Salesforce biedt één platform waar Data 360, Trusted Services, Informatica en MuleSoft allemaal binnen hetzelfde beheerkader functioneren. Dit is geen strategie met producten van vijf verschillende leveranciers aan elkaar gekoppeld, maar een solide basis die nu al biljoenen transacties beheert.
We organiseren dit beheer in drie weloverwogen fasen:
Fase 1: ontgrendelen
Je kunt niet beheren wat je niet ziet. Daarom draait deze eerste fase van AI-governance om het creëren van een gemeenschappelijk vocabulaire, zodat elke agent dezelfde taal spreekt.
- Informatica: zorgt voor het vinden, classificeren en inventariseren van data en genereert automatisch kwaliteitsregels.
- MuleSoft: verbindt alles in realtime, waaronder de MCP (Model Context Protocol)- en Agent-to-Agent (A2A)-aansturing, zodat agents op een beheerde manier met elkaar communiceren.
- Data 360: verzamelt data via streaming, batch en realtime processen en maakt datafederaties mogelijk via Zero Copy. Daardoor hebben agents toegang tot data uit elk datawarehouse, zonder kwetsbare en onbeheerde pipelines te creëren.
Fase 2: vertrouwen
In deze fase bepaal je de grenzen van wat agents mogen weten en doen.
- Informatica: zorgt ervoor dat iedereen werkt met hetzelfde complete overzicht van klanten, producten en leveranciers.
- Data 360: biedt AI-gestuurde tagging voor classificatie, dynamische maskering om gevoelige velden te beschermen en inzicht in datastromen door de effecten upstream en downstream te volgen.
- Trusted Services: zorgt voor classificatie, encryptie en privacybeleid voor bulkdata, afgestemd op jouw specifieke vereisten.
Fase 3: Activeren
In deze fase schaal je op met het vertrouwen dat elke actie wordt gecontroleerd.
- MuleSoft: dwingt beleid af om persoonlijk identificeerbare informatie (PII) te beschermen en beheert het gebruik van LLM-tokens bij elke interactie.
- Data 360: bepaalt tijdens de uitvoering de toegang tot objecten, rijen en velden, zodat agents alleen zien waarvoor de gebruiker gemachtigd is.
- Trusted Services: fungeert als vangnet. Het onderzoekt verdachte activiteiten, beheert klanttoestemmingen en bewaart de veldgeschiedenis voor onbepaalde tijd.
Laten we teruggaan naar het eerdere voorbeeld en aannemen dat de agent beheerde data gebruikt.
Bij beheerde data is de beheerlaag al actief voordat de agent reageert. Het databeleid is gecontroleerd: mag deze agent kortingen goedkeuren? Margedata wordt gevalideerd vanuit je ERP, terwijl de actuele marge van het bedrijf in realtime wordt opgevraagd. Context wordt in realtime uit je CRM gehaald, inclusief accountgeschiedenis, contractvoorwaarden en het huidige prijsniveau. De API-aanroep naar het kortingsgoedkeuringssysteem is geautoriseerd en vastgelegd. Vervolgens antwoordt de agent: “[Klant] zit onder de margedrempel. Korting overschrijdt beleid DISC-2. Zal ik de VP om goedkeuring vragen?”
De prompt is hetzelfde, maar het resultaat is totaal anders. Dankzij governance en beheer is het resultaat correct, controleerbaar en verdedigbaar. Als toezichthouders of de raad van bestuur vragen stellen, moet je kunnen aantonen dat de juiste controlemechanismen aanwezig zijn.of er controlemechanismen waren geïmplementeerd, moet je ‘ja’ kunnen zeggen.
AI-governance is de basis van je AI-strategie
AI-governance is niet slechts een onderdeel van je AI-strategie, maar de basis ervan. Zonder governance heb je geen strategie, maar een experiment. Begin daarom vandaag nog met het integreren van AI-governance. Met het Agentforce 360 Platform koppel je je data, dwing je beleid af en zet je gereguleerde agents in die even krachtig als betrouwbaar zijn.
Lees meer
Overzicht Trusted Services Solution
