AI-agents beveiligen: zo bouw je vertrouwen, security en governance in
AI-agents zijn alleen zo betrouwbaar als de data waarop ze hun beslissingen baseren. Ons geïntegreerde platform biedt alles wat je nodig hebt om die data veilig, betrouwbaar en beheersbaar in te zetten.
Key Takeaways
AI-agents doen meer dan antwoorden geven: een agent die is gebouwd met Agentforce handelt een klantvraag af, past een order aan of zet een vervolgstap in gang. Dat maakt de vraag dringend of je zo’n agent kunt vertrouwen met gevoelige data en kritieke bedrijfsprocessen.
Uit onderzoek van Salesforce onder ruim 2.000 IT-securityleiders blijkt dat 48% twijfelt of hun datafundament klaar is voor AI. Daarnaast weet 55% niet zeker of ze AI kunnen implementeren met de juiste beveiligings- en beheersmaatregelen.
Bij Salesforce staat vertrouwen al ruim 25 jaar centraal. Daarom zijn beveiliging en governance vanaf de basis in het platform ingebouwd. Sindsdien is het platform meegegroeid met elke technologische ontwikkeling, van cloud en mobiel tot voorspellende AI, generatieve AI en Agentforce.
Betrouwbare AI-agents vragen om meer dan krachtige modellen. Je hebt een veilig datafundament, veilige ontwikkelprocessen en continu toezicht gedurende de hele levenscyclus nodig. Hieronder lees je hoe je dat stap voor stap opbouwt.
Welke beveiligingsrisico’s brengen AI-agents mee?
AI-agents brengen vier risico’s met zich mee die je bij een chatbot of dashboard niet hebt:
- Onjuiste of verouderde data
- Te ruime toegang tot systemen via API’s
- Agents die buiten hun instructies handelen
- Data die naar een extern taalmodel wordt gestuurd
Elk van deze risico’s speelt op een andere laag van de architectuur en vraagt om een eigen beveiligingsmaatregel.
Het onderliggende patroon is steeds hetzelfde: een agent versnelt en vergroot wat er al binnen je organisatie aanwezig is. Is klantdata dubbel of onvolledig, dan neemt de agent op basis daarvan verkeerde beslissingen, alleen sneller en vaker dan een medewerker. Zijn toegangsrechten te ruim, dan kan de agent meer dan de bedoeling is. Daarbij geldt het shared responsibility model: Salesforce beveiligt het platform, terwijl je als organisatie zelf verantwoordelijk blijft voor onder meer je data, toegangsrechten en configuratie. De beveiliging van AI-agents begint daarom niet bij het model, maar bij data, toegangsbeheer en toezicht.
Hoe beveilig je het datafundament onder een AI-agent?
Een veilig datafundament vraagt om vier maatregelen: back-up en herstel, bescherming van gevoelige testdata, monitoring van gebruikersactiviteit en centraal beheer van je beveiligingsstatus. Samen maken deze oplossingen deel uit van de Trusted Services-suite van het Salesforce Platform.
- Zorg voor betrouwbare back-up en herstel. Backup & Recover (voorheen Own Recover) automatiseert back-ups en maakt nauwkeurig herstel van Salesforce-data en -metadata mogelijk. In combinatie met Salesforce Archive kun je voldoen aan je bewaarbeleid zonder dat dit ten koste gaat van de prestaties. Betrouwbare AI begint immers bij een betrouwbaar datafundament.
- Bescherm gevoelige data tijdens ontwikkeling en testen. AI-agents test je het liefst met realistische data, maar het gebruik van productiedata in een sandbox brengt risico’s met zich mee. Data Mask & Seed maskeert gevoelige data en vult sandboxomgevingen met representatieve testdata, zodat je veilig en efficiënt kunt testen.
- Monitor wat gebruikers en agents doen. Shield geeft inzicht in gebruikersactiviteit en ondersteunt proactieve dreigingsdetectie. Zo kun je beter volgen hoe gebruikers en AI-agents met data omgaan en sneller ingrijpen bij afwijkend gedrag.
- Beheer je beveiligingsstatus centraal. Security Center brengt je beveiligingsstatus centraal in beeld en helpt je risico’s sneller te identificeren met onder meer dataclassificatie en risicobeoordelingen.
Hoe Salesforce deze oplossingen zelf toepast, lees je in Zo beschermt Salesforce zijn eigen data als ‘customer zero’.
Hoe houd je data uit meerdere systemen onder controle?
Een AI-agent heeft vaak data nodig uit meer bronnen dan alleen het CRM. Met governance in Data 360 beheer je die data centraal. Data 360 brengt gestructureerde en ongestructureerde data samen tot één betrouwbaar klantbeeld en helpt je een consistent governanceframework toe te passen op alle data, in plaats van per systeem afzonderlijk.
Dat gebeurt met vier bouwstenen:
- AI-tagging en classificatie. Records worden automatisch voorzien van door AI aanbevolen labels, bijvoorbeeld voor AVG, HIPAA of persoonsgegevens. Deze labels sluiten aan op het bedrijfs- of compliancekader van je organisatie.
- Beleidsgestuurd beheer. Je stelt regels in op veld-, object- en recordniveau. Die worden vervolgens automatisch toegepast op alle functies die gebruikmaken van Data 360, waaronder Agentforce, analytics en segmentatie.
- Data spaces. Je scheidt data, metadata en processen per merk, bedrijfsonderdeel of regio. Zo houdt ieder onderdeel controle over zijn eigen data binnen één centrale omgeving.
- Dynamische maskeringsregels. Gevoelige informatie wordt automatisch verborgen of juist zichtbaar gemaakt, afhankelijk van wie of wat toegang tot de data heeft.
Hoe beveilig je de API’s van AI-agents?
Je beveiligt de API’s van AI-agents door ze centraal te beheren en voor elke verbinding duidelijke beveiligingsregels af te dwingen. Agents gebruiken API’s om verbinding te maken met andere systemen en databronnen. Elke onvoldoende beveiligde verbinding kan daardoor een risico vormen.
Met MuleSoft API Management kun je API’s centraal beveiligen, beheren en controleren. MuleSoft Flex Gateway ondersteunt daarnaast protocollen als Agent2Agent (A2A) en het Model Context Protocol (MCP), waarmee agents met elkaar en met externe systemen communiceren. Zo houd je ook deze verbindingen veilig, beheersbaar en inzichtelijk.
Welke vangrails bouw je in bij het ontwikkelen en testen van agents?
Goede vangrails voor AI-agents bestaan uit twee onderdelen: veilige testomgevingen met realistische data en duidelijke grenzen aan wat een agent mag doen. Vertrouwen in een Agentforce-implementatie begint met grondig testen vóór de livegang en met het structureel evalueren van AI-agents nadat ze in gebruik zijn.
- Veilig ontwikkelen en testen. Gebruik sandboxes en het Agentforce Testing Center om agents in een afgeschermde omgeving te ontwikkelen en te testen met realistische data. Synthetische data en state injection helpen om deze testfase te versnellen.
- Bepalen wat een agent wel en niet mag doen. Met Variables and Filters stel je grenzen aan hoe een agent redeneert en welke acties hij in verschillende situaties mag uitvoeren. Instruction Adherence Checks controleren of de agent zich aan de bedoelde instructies houdt, signaleren afwijkingen en helpen je die op te lossen.
Hoe bescherm je data bij elke prompt richting het taalmodel?
Met de Einstein Trust Layer bescherm je gevoelige data voordat een prompt naar een large language model (LLM) wordt gestuurd. Deze beveiligde tussenlaag tussen de gebruiker of agent en het taalmodel voorkomt dat data ongecontroleerd buiten de Salesforce-omgeving terechtkomt.
De Trust Layer beschermt data op drie manieren:
- Configureerbare datamaskering. Gevoelige informatie wordt verwijderd of gemaskeerd voordat een prompt naar het LLM gaat.
- Zero data retention. De LLM-provider bewaart je prompts en data niet.
- Detectie van schadelijke content. Schadelijke of bevooroordeelde taal in prompts en antwoorden wordt automatisch gedetecteerd en gemarkeerd.
Zo gebruik je generatieve AI zonder gevoelige klantdata onnodig bloot te stellen.
Praktijkvoorbeeld: hoe Precina patiëntdata veilig samenbrengt
Zorgorganisatie Precina gebruikt Agentforce om laboratoriumuitslagen, voorschriften en telezorggegevens realtime en HIPAA-conform samen te brengen. Zo kunnen zorgverleners sneller handelen en kan Precina makkelijker inspelen op een groeiende zorgvraag.
Josiah Bryan, CTO en Lead AI Researcher bij Precina, zegt daarover: “Salesforce investeert zo doordacht en intensief in cybersecurity dat we erop vertrouwen dat het bedrijf net zo zorgvuldig met de gegevens van onze patiënten omgaat als wij met onze patiënten.”
Van pilot naar organisatiebrede inzet
De stap van een AI-pilot naar organisatiebrede inzet vraagt om een platform waarin vertrouwen vanaf de basis is ingebouwd. Rahul Auradkar, Executive Vice President en General Manager Data 360 bij Salesforce, verwoordt het zo: “Door data naadloos samen te brengen, intuïtieve low-code-tools te bieden voor het bouwen van slimmere agents en governance en beveiliging vanaf de basis in te bouwen, helpen we klanten enterprise-AI krachtig én verantwoord in te zetten.”
Met geïntegreerde toegang tot data, ontwikkeltools met ingebouwde vangrails en beveiliging op elke laag kun je AI-agents organisatiebreed inzetten en tegelijkertijd grip houden op risico’s. Een duidelijk intern AI-beleid legt daarbij vast wat binnen je organisatie wel en niet is toegestaan en helpt om AI veilig en verantwoord te gebruiken.
Veelgestelde vragen
Wat is het verschil tussen AI-governance en data governance?
AI-governance bepaalt hoe AI-systemen en AI-agents worden aangestuurd, gecontroleerd en begrensd. Data governance gaat over de kwaliteit, toegang, bescherming en het rechtmatige gebruik van de data waarmee die systemen werken. Beide zijn nodig voor betrouwbare AI: ook een goed beheerde agent blijft onbetrouwbaar als de onderliggende data niet op orde is. Lees meer over AI-governance voor AI-agents.
Wat is agent sprawl?
Agent sprawl is de ongecontroleerde groei van AI-agents binnen een organisatie. Dat gebeurt bijvoorbeeld wanneer verschillende teams zelfstandig agents ontwikkelen zonder centraal overzicht of gezamenlijke governance. Omdat elke agent eigen toegangsrechten, identiteiten en API-koppelingen kan hebben, kan het beveiligingsrisico snel toenemen. Centraal beheer helpt je te zien welke agents actief zijn, welke data ze gebruiken en welke systemen ze mogen benaderen.
Wat betekent least privilege voor AI-agents?
Least privilege betekent dat een AI-agent alleen toegang krijgt tot de data, systemen en acties die nodig zijn voor zijn taak. Een serviceagent die orders opzoekt, hoeft bijvoorbeeld geen financiële gegevens te kunnen wijzigen. In Agentforce kun je dit toegangsbeheer vastleggen met variabelen, filters en beleid op veld- en recordniveau. Zo verklein je het risico dat een agent buiten zijn bedoelde taak handelt.
Mag een AI-agent persoonsgegevens verwerken onder de AVG?
Ja, een AI-agent kan persoonsgegevens verwerken als die verwerking aan de AVG voldoet. Er moet onder meer een geldige grondslag zijn, de verwerking moet beperkt blijven tot wat noodzakelijk is en je moet kunnen aantonen wat er met de gegevens gebeurt. Datamaskering, zero data retention bij de LLM-provider en logging van agentacties kunnen helpen om persoonsgegevens beter te beschermen en het gebruik ervan inzichtelijk te maken. Stem de concrete inrichting altijd af met je privacy- of juridische team.
Wat is de Einstein Trust Layer?
De Einstein Trust Layer is de beveiligingslaag tussen een gebruiker of AI-agent en het large language model (LLM). De laag helpt gevoelige data te beschermen door informatie in prompts te maskeren, zero data retention toe te passen en prompts en antwoorden te controleren op schadelijke content. Zo ondersteunt de Einstein Trust Layer veiliger gebruik van generatieve AI en AI-agents binnen Salesforce.
