AI: van cybersecurity-uitdaging naar zakelijke kans

Als cyberbeveiligingsexpert is het jouw taak om de veiligheid van je organisatie te waarborgen, zodat je collega’s op een veilige manier kunnen (samen)werken en innoveren. Nieuwe technologie mag nooit ten koste gaan van de beveiliging.

William MacMillan, voorheen Chief Information Security Officer (CISO) bij de Central Intelligence Agency (CIA), legt uit: “Cybersecurity zorgt ervoor dat een bedrijf optimaal functioneert. Al het werk moet gegarandeerd veilig worden uitgevoerd.”

Wil je AI inzetten? Zorg dan dat je dit veilig doet.

AI biedt talloze voordelen voor je bedrijf. Klantenservicemedewerkers lossen cases sneller op, marketingteams creëren op grote schaal gepersonaliseerde content en bedrijfsprocessen worden efficiënter. Zo voert Santander met Agentforce vier keer zoveel klantgesprekken per dag. Agentforce biedt realtime toegang tot waardevolle inzichten voor relatiebeheer, waardoor servicemedewerkers productiever werken.

Als CISO moet je echter goed nadenken over je beveiligingsstrategie. Jij bent namelijk niet de enige die de mogelijkheden van AI kan benutten. Hackers kunnen met generatieve AI veel sneller geloofwaardige phishingmails, homepages en ander merkgerelateerd materiaal creëren. Daardoor lopen je collega’s meer risico om misleid te worden en is het voor jou lastiger om hackers buiten te houden.

Welke risico’s en technische uitdagingen brengt AI met zich mee voor beveiligingsmedewerkers?

Zijn je data beveiligd?

Gebruiken je collega’s gevoelige data in AI-tools? Is er een kans dat de makers van deze tools de data gebruiken (en misschien zelfs verkopen)? Datalekken kunnen schadelijk en duur zijn. Generative AI Snapshot Research van Salesforce geeft aan dat bijna 60% van de mensen die het gebruik van generatieve AI overweegt niet weet hoe ze vertrouwde databronnen kunnen gebruiken of gevoelige data veilig kunnen houden.

Zijn je medewerkers goed voorbereid?

Zelfs als je organisatie nog geen AI-strategie heeft, is de kans groot dat je medewerkers steeds vaker AI gebruiken. Uit onderzoek van Salesforce blijkt dat in het Verenigd Koninkrijk al bijna een derde van de bevolking generatieve AI gebruikt. Leer je collega’s snel hoe ze AI veilig en verantwoord kunnen gebruiken. Mensen die weten wat ze doen, letten beter op de veiligheid. Als CISO moet je dan ook zorgen dat kennis van AI deel uitmaakt van je bedrijfscultuur.

Is de output betrouwbaar?

Je hebt vast weleens gehoord van hallucinaties: output waarin dingen staan die AI verzonnen heeft en die nergens op slaan. Als zulke onjuiste informatie verspreid wordt, schaadt dat de professionele reputatie van je bedrijf.

Hoe kun je optimaal profiteren van AI?

1. Beperk aanvalsrisico’s 

Wanneer er nieuwe technologieën worden toegevoegd aan een IT-infrastructuur, ontstaan er vaak nieuwe zwakke plekken waarvan malware kan profiteren. Beperk risico’s door data, AI, CRM, development en beveiliging te integreren in één platform.

Het samenbrengen van services biedt talloze voordelen, waaronder databeveiliging met minder zwakke punten, een vertrouwd gebruikersplatform, zichtbaarheid voor IT en operationele waarde. Bijvoorbeeld, toen Heathrow Airport koos voor Salesforce om de digitale services te verbinden, nam de digitale omzet met 30% toe.

2. Gebruik generatieve AI in het Security Operations Centre (SOC)

Generatieve AI kan detectiemechanismen veel effectiever maken. Analisten en andere beveiligingsexperts kunnen namelijk met AI veel sneller nieuwe detecties doen, grotere datasets analyseren en op grote schaal aanvalsscenario’s simuleren. Je team krijgt bovendien meer tijd voor analyses omdat routinetaken geautomatiseerd zijn, bijvoorbeeld bij het automatisch genereren van toegangsrechten.

3. Kies voor een architectuur waarin data niet worden bewaard

Goed databeheer is essentieel voor een veilige AI-implementatie. Kies daarom voor software met een architectuur waarin geen data worden bewaard. Dat zorgt voor gestroomlijnde privacy- en databescherming om veilig data op te halen met dynamische context en data masking, zodat je teams de mogelijkheden van AI kunnen benutten zonder risico’s voor je klantdata.

Salesforce werkt bijvoorbeeld samen met Open AI en Azure Open AI om te zorgen dat er geen data worden bewaard. Er worden geen data gebruikt voor de training van LLM-modellen of voor productaanpassingen via third-party LLM’s. Bovendien slaan third-party LLM’s geen data op en krijgen medewerkers van externe partijen nooit toegang tot data die naar hun LLM worden verstuurd.

4. Zorg voor een effectief AI-beleid en training

Leren werken met AI-tools vinden de meeste mensen leuk. Trainingen over beveiligingsprotocollen zijn helaas een stuk minder populair. Integreer daarom de informatie over beveiliging, beleid en ethisch gebruik in je AI-trainingen. Stel een werkgroep in die toezicht houdt op de AI-implementatie en naleving van beleid en regelgeving bewaakt.

5. Voorkom toxiciteit

Sommige data-architecturen kunnen toxiciteit en schadelijke output beperken, bijvoorbeeld via toxiciteitsdetectie en auditing. Zo zorg je ervoor dat alle AI-output wordt gecontroleerd door een medewerker en elke stap wordt vastgelegd in de metadata voor de audittrail. Dit vereenvoudigt de naleving van de regelgeving.

6. Ontwikkel een sterk actieplan voor incidenten

Als cyberbeveiligingsexpert weet je dat je niet alle aanvallen kunt voorkomen en ben je waarschijnlijk goed voorbereid om de bedrijfsvoering zo snel mogelijk te hervatten. Voor AI geldt dat ook. Stel een sterk actieplan op en oefen regelmatig met AI-gerelateerde bedreigingen.

7. Werk samen met AI-experts

Het is jouw rol om je organisatie te beschermen, maar je hebt waarschijnlijk niet genoeg tijd om ook nog eens een expert te worden op het gebied van AI-beveiliging. Door samen te werken met vertrouwde partners, blijf je op de hoogte van toenemende dreigingen en kun je vertrouwen op innovatieve beveiligingsoplossingen.

Vooruitblik: de toekomst van AI en beveiliging

In het AI-tijdperk is jouw rol als beveiligingsexpert belangrijker dan ooit. Door je te richten op effectief databeheer, een cultuur met aandacht voor beveiliging en de juiste tools, kun je als CISO niet alleen de risico’s van AI-gebruik beperken, maar AI zelfs inzetten om de veiligheid te vergroten.

De voordelen van AI op het gebied van innovatie, efficiëntie en groei wegen ruimschoots op tegen de risico’s. Door deze mogelijkheden te combineren met een goede beveiliging, heeft je organisatie een solide fundament voor het veilig inzetten van AI.