Een praktisch kader voor betrouwbare samenwerking tussen mens en AI

De acceptatie van agentische AI neemt razendsnel toe. Volgens het 11e jaarlijkse Connectivity Benchmark Report van Salesforce gebruiken organisaties momenteel gemiddeld 12 AI-agents.

Naar verwachting stijgt dat aantal de komende twee jaar met 67%. Toch werkt bijna de helft van die agents nog steeds in geïsoleerde silo’s, los van de systemen en mensen die ze juist moeten ondersteunen. AI-agents monitoren systemen, genereren output, starten workflows en voeren acties uit binnen de hele organisatie. Naarmate ze autonomer worden, verschuift de vraag van wat agents kunnen doen naar hoe we betrouwbare samenwerking tussen mens en AI ontwerpen.

De meeste gesprekken gaan vandaag de dag over wat AI-agents kunnen. Veel minder aandacht gaat naar de samenwerking tussen mens en AI en naar de vraag hoe mensen en agents effectief en verantwoord kunnen samenwerken.

Bij Salesforce richt het Office of Ethical and Humane Use zich op de samenwerking tussen mens en AI, vanuit de overtuiging dat de meest innovatieve AI ook de meest verantwoorde AI is. In de praktijk betekent dat niet alleen instellen wat AI kan doen, maar ook hoe mensen en agents samenwerken.

A Day Empowered by Agents introduceert een praktisch kader, geïnspireerd op de manier waarop we AI bij Salesforce inzetten. Het helpt onze teams en klanten om de samenwerking tussen mens en AI vanaf het begin bewust te ontwerpen en vertrouwen in elke interactie in te bouwen.

Vertrouwen ontstaat niet door één product of functie. Het is een gedeelde verantwoordelijkheid van de mensen die AI ontwerpen en bouwen én de mensen die ermee werken.

De rol van de bouwer in samenwerking tussen mens en AI verandert

Naarmate organisaties autonome workflows inzetten, verandert ook de rol van de bouwer.

Ontwikkelaars, architecten, beheerders en bedrijfsleiders configureren niet langer alleen tools. Ze bepalen ook hoe beslissingen tot stand komen, wanneer werk wordt overgedragen en waar de verantwoordelijkheid ligt. Van ontwikkelaar tot CEO: iedereen speelt daarmee een rol in de manier waarop de samenwerking tussen mens en AI wordt ingericht.

Het kader introduceert een eenvoudig model om dit proces concreter te maken:

Menselijke taak + taak van de AI-agent + waarborgen voor betrouwbaarhei

Het is een eenvoudig model, maar het maakt duidelijk wie waarvoor verantwoordelijk is, hoe taken worden verdeeld en hoe de samenwerking tussen mens en AI wordt ingericht:

• Voor welke taak is de mens verantwoordelijk?
• Welk deel van die taak voert de AI-agent uit?
• Wat maakt die samenwerking veilig, transparant, onderbreekbaar en beheersbaar?

Vertrouwen voeg je niet pas achteraf toe. Het ontstaat door de overdracht tussen mens en AI vanaf het begin goed in te richten. In veel gevallen is dat zelfs een voorwaarde voor betrouwbare samenwerking.

Zo ziet samenwerking tussen mens en AI er in de praktijk uit

Neem een ontwikkelaar die code beoordeelt en implementeert. Die blijft verantwoordelijk voor de veiligheid en betrouwbaarheid van de code die wordt uitgerold, ongeacht of de code door een mens of een AI-agent is geschreven. Een agent kan ondersteunen door code te schrijven, pull requests te analyseren, kwetsbaarheden te signaleren en logs samen te vatten. De ontwikkelaar houdt daarbij inzicht in hoe problemen worden gesignaleerd. Het systeem pauzeert bij vooraf bepaalde grenzen en goedkeuringsstappen blijven behouden. De agent ondersteunt de workflow, maar de verantwoordelijkheid blijft bij de mens.

Ook bij een data-analist blijft die verdeling duidelijk. De analist is verantwoordelijk voor het omzetten van data in beslissingen. Een AI-agent kan dashboards genereren, trends herkennen en afwijkingen signaleren. Daarbij werkt de agent binnen vooraf bepaalde meetwaarden, voert het systeem controles uit op schadelijke content en worden validatiestappen vastgelegd. Zo kan de analist sneller handelen en blijft de betrouwbaarheid van de output controleerbaar.

Voor een softwarearchitect draait het om het afwegen van belangen zoals schaalbaarheid, kosten en beveiliging. Een AI-agent kan opties genereren en compliancecontroles uitvoeren. De aanbevelingen zijn gebaseerd op betrouwbare data, zijn traceerbaar en blijven binnen vooraf gestelde grenzen. De architect blijft verantwoordelijk voor de uiteindelijke beslissing.

In al deze situaties geldt hetzelfde principe voor de samenwerking tussen mens en AI: de agent vergroot de mogelijkheden, maar de mens houdt de verantwoordelijkheid. Ontdek hoe dit werkt voor 16 verschillende rollen in deze ervaring.

Best practices voor verantwoorde samenwerking tussen mens en AI

Bouwers bepalen hoe systemen daadwerkelijk worden gebruikt, waar agents in Bouwers bepalen hoe AI-systemen in de praktijk worden gebruikt, wanneer agents in actie komen, welke beslissingen ze beïnvloeden en wanneer mensen betrokken blijven. Juist op dat snijvlak ontstaat vertrouwen. Deze best practices helpen om de samenwerking tussen mens en AI verantwoord in te richten:

1. Meet resultaten in plaats van output
Beoordeel het werk van AI-agents op de nauwkeurigheid, relevantie en kwaliteit van de resultaten, niet alleen op snelheid of volume. Tijdbesparing is waardevol, maar duurzame efficiëntie ontstaat vooral wanneer AI ook de kwaliteit van het werk verbetert.

2. Stel menselijke kwaliteiten centraal
Wanneer agents routinetaken overnemen, zoals het maken van concepten, samenvattingen of suggesties, houden mensen meer tijd over voor creativiteit, empathie en werk waarvoor menselijk inzicht nodig is. Zo ondersteunt AI menselijke kwaliteiten en kan werk zinvoller en effectiever worden.

3. Maak de taakverdeling duidelijk
Bij elke overdracht moet duidelijk zijn welke taken de AI-agent uitvoert en welke onder menselijke regie blijven. Agents kunnen repetitief en gestructureerd werk overnemen, terwijl mensen zich richten op taken waarvoor afweging, interpersoonlijke vaardigheden of strategisch inzicht nodig zijn. Leg vooraf vast wanneer menselijke beoordeling of ingrijpen nodig is.

4. Zorg voor transparantie en controleerbaarheid
Leg handelingen van AI-agents duidelijk vast, zodat inzichtelijk blijft wat er is gebeurd en waarom. Door gebruikte bronnen en belangrijke beslissingen te documenteren, vergroot je de transparantie en versterk je het vertrouwen tussen teams.

5. Houd de feedbackcyclus open
AI-systemen werken het best wanneer ze voortdurend worden geëvalueerd en verbeterd. Menselijke feedback is daarom niet alleen een laatste controle, maar ook waardevolle input om het systeem veilig, effectief en afgestemd op veranderende bedrijfsbehoeften te houden.

6. Bouw vanaf het begin regels in
Leg vanaf het begin vast binnen welke grenzen een AI-agent mag handelen. Maak duidelijk wanneer een agent moet stoppen, wanneer menselijke goedkeuring nodig is en welke acties altijd onder menselijke controle blijven. Zo wordt vertrouwen een vast onderdeel van de samenwerking tussen mens en AI, in plaats van iets wat pas achteraf wordt toegevoegd.

Wat is een goed begin?

Stel jezelf eerst een paar eenvoudige vragen voordat je een agent implementeert:

• Welk resultaat moet de agent ondersteunen?
• Waar ligt de verantwoordelijkheid?
• Welke vangrails zijn er ingebouwd?
• Kunnen beslissingen worden herzien of teruggedraaid?
• Welke beslissingen blijven altijd mensenwerk?

Wil je dit verder verkennen? In de snelstartgids A Day Empowered by Agents vind je een reeks praktische vragen en oefeningen waarmee teams deze beslissingen vóór de implementatie kunnen evalueren en deze principes kunnen vertalen naar echte workflows.

Naarmate AI steeds meer wordt ingebed in de manier waarop werk wordt uitgevoerd, zal het onderscheid niet alleen worden bepaald door wie agents kan bouwen, maar vooral door wie de samenwerking tussen mens en agent kan vormgeven.

Elke workflow bestaat uit beslissingen over eigendom, zichtbaarheid en controle. Die beslissingen bepalen of mensen het systeem vertrouwen of juist liever vermijden. Voor een agentische onderneming is vertrouwen geen functie die je pas aan het einde toevoegt. Het is een ontwerpprincipe dat vanaf het begin centraal staat.

Ontdek in A Day Empowered by Agents hoe betrouwbare vangrails, duidelijk eigendom en samenwerking tussen mens en AI in de praktijk werken. Download de Snelstartgids om deze principes in je eigen workflow te integreren.