AI bij de overheid en de Publieke sector: toepassingen, wetgeving en praktijkvoorbeelden
Hoe gebruikt de overheid AI, welke voordelen biedt deze technologie en aan welke regels moeten overheidsorganisaties hierbij voldoen? Van betere dienstverlening aan burgers tot efficiëntere werkprocessen: AI biedt kansen voor gemeenten en andere publieke organisaties. Tegelijkertijd vragen de EU AI-Act, privacywetgeving en publieke waarden om een zorgvuldige aanpak. In dit artikel ontdek je welke AI-toepassingen er zijn, hoe de Nederlandse overheid ermee omgaat en wat nodig is om AI verantwoord in te zetten.
De AI-revolutie is begonnen, en de Nederlandse overheid staat voor de opgave om deze technologie op een verantwoorde manier te benutten. AI biedt volop kansen om organisaties én burgers verder te helpen, maar vraagt tegelijk om zorgvuldige aandacht voor wetgeving, publieke waarden en mensenrechten.
Voor overheids- en publieke sectororganisaties kan een overheids-CRM met AI-mogelijkheden zorgen voor meer efficiëntie en betere dienstverlening. Denk aan gestroomlijnde dataverwerking, geautomatiseerde processen en effectievere communicatie met burgers, altijd binnen de kaders van de Europese AI-verordening en het Nederlandse toezicht.
In dit artikel lees je welke toepassingen AI biedt voor de publieke sector, welke voorbeelden er al zijn binnen Nederlandse gemeenten en ministeries, en hoe je AI inzet met respect voor privacy, non-discriminatie en democratische controle.
Belangrijkste inzichten
AI versterkt de dienstverlening: overheden kunnen met AI routinetaken automatiseren, sneller beslissen en burgers persoonlijker helpen, mits data op orde en betrouwbaar is.
Wetgeving is leidend: de EU AI-Act, het Algoritmeregister en de richtlijnen van de Autoriteit Persoonsgegevens bepalen hoe de Nederlandse overheid AI mag inzetten, met risicoclassificatie en menselijk toezicht als kern.
Publieke waarden staan centraal: lessen uit de Toeslagenaffaire onderstrepen het belang van transparantie, non-discriminatie en het beschermen van grondrechten bij elke AI-toepassing.
AI-geletterdheid is verplicht: sinds de AI-Act moeten overheidsmedewerkers voldoende kennis hebben van AI om systemen verantwoord te gebruiken en te controleren.
Data en vertrouwen als fundament: datamodernisering en sterke beveiliging vormen de basis waarop betrouwbare, ethische AI kan worden gebouwd.
Wat is AI overheid? Een korte introductie voor de publieke sector
Voordat we ingaan op toepassingen en wetgeving, is het goed om de kernbegrippen helder te hebben. Kunstmatige intelligentie (AI) is een verzamelnaam voor technologie die taken uitvoert waarvoor doorgaans menselijke intelligentie nodig is.
Machine learning: systemen die leren van data en hun prestaties verbeteren zonder expliciet geprogrammeerd te zijn voor elke taak.
Deep learning: een geavanceerde vorm van machine learning die gebruikmaakt van neurale netwerken met veel lagen, geschikt voor complexe patronen zoals beeld- en spraakherkenning.
Generatieve AI: technologie die nieuwe content genereert, zoals tekst, beeld of code, op basis van grote taalmodellen (LLM's).
Large language models (LLM's): taalmodellen die getraind zijn op enorme hoeveelheden tekst en menselijke taal kunnen begrijpen en produceren.
Voor de Nederlandse overheid is het initiatief GPT-NL
relevant: een transparant, eerlijk en toetsbaar Nederlands taalmodel dat wordt ontwikkeld met publieke waarden als uitgangspunt.
De grootste uitdaging bij AI-adoptie: vaardigheden en AI-geletterdheid
De opkomst van AI biedt medewerkers een uitgelezen kans om nieuwe vaardigheden op te doen met software voor de overheid en zo hun toekomst veilig te stellen. Met de juiste AI-vaardigheden kunnen medewerkers burgers beter van dienst zijn en het vertrouwen tussen de publieke en private sector versterken. Toch is er ook een keerzijde: een groeiend tekort aan AI-talent.
Sinds de invoering van de EU AI-Act is 'AI-geletterdheid' bovendien geen luxe meer, maar een wettelijke verplichting. Vanaf februari 2025 moeten organisaties die AI-systemen ontwikkelen of gebruiken, waaronder overheden, ervoor zorgen dat hun medewerkers voldoende kennis en begrip van AI hebben. Dit betekent dat ambtenaren niet alleen met AI moeten kunnen werken, maar ook de werking, risico's en grenzen ervan moeten begrijpen om menselijk toezicht waar te maken.
De snelle opkomst van generatieve AI vraagt om nieuwe kennis en vaardigheden binnen de overheid. Het kabinet benadrukt daarom dat medewerkers niet alleen moeten leren werken met AI, maar ook de mogelijkheden en risico’s ervan moeten begrijpen. In het overheidsbrede standpunt voor generatieve AI
wordt AI-geletterdheid expliciet genoemd als aandachtspunt, naast training en samenwerking tussen onder meer juridische experts, dataspecialisten en ontwikkelaars.
Meer weten over de benodigde kennis en vaardigheden? Lees welke AI-vaardigheden medewerkers helpen om AI verantwoord te gebruiken.
Van AI-geletterdheid naar nieuwe vaardigheden
Juist daarom is het zo belangrijk dat medewerkers die met deze verandering te maken krijgen, nieuwe vaardigheden ontwikkelen voor meer uitdagend werk, nu AI steeds meer eenvoudige taken overneemt. Er liggen grote kansen voor jouw organisatie om AI in te zetten binnen de overheid, maar zorg er eerst voor dat je medewerkers de juiste training krijgen en dat je beschikt over een solide en veilige datafundering waarop AI kan bouwen.
Datamodernisering is de eerste stap om jouw organisatie klaar te maken voor een toekomst die optimaal gebruikmaakt van AI. Het is ook een gebied waar medewerkers nieuwe vaardigheden kunnen opdoen en naartoe kunnen doorgroeien, nu AI de menselijke werkstroom steeds meer verschuift van eenvoudige taken naar complexere rollen.
Wetgeving en toezicht: de EU AI-Act, het Algoritmeregister en de AP
Geen enkele overheid kan AI verantwoord inzetten zonder het juridische kader te kennen. In Nederland en de EU is dat kader inmiddels stevig verankerd. Hieronder de belangrijkste onderdelen.
De EU AI-Act: risicoclassificatie als uitgangspunt
De EU AI-Act
, officieel de Europese AI-verordening, deelt AI-systemen in op basis van risico. Voor overheden is dit bepalend, omdat veel toepassingen in de publieke sector als 'hoog risico' worden aangemerkt. De onderstaande tabel geeft de vier risicocategorieën weer.
Risicocategorie
Betekenis
Voorbeeld in de publieke sector
Onaanvaardbaar risico
Verboden toepassingen
Sociale scoring van burgers door de overheid
Hoog risico
Strenge eisen en toezicht verplicht
AI bij toekenning van uitkeringen of fraudedetectie
Beperkt risico
Transparantieverplichting
Chatbots die burgers te woord staan
Minimaal risico
Nauwelijks aanvullende eisen
Spamfilters en eenvoudige automatisering
Voor hoog-risicotoepassingen gelden verplichtingen rond menselijk toezicht, transparantie, datakwaliteit en het uitvoeren van een impactassessment. Een goede AI-governance helpt organisaties om deze verplichtingen in de praktijk te waarborgen.
Risicoclassificatie vraagt tegelijkertijd om zorgvuldige beoordeling. Omdat een hogere risicocategorie strengere verplichtingen met zich meebrengt, kan er in de praktijk een prikkel ontstaan om risico’s te laag in te schatten. Overheidsorganisaties moeten daarom niet alleen kijken naar de technische kenmerken van een AI-systeem, maar ook naar de context waarbinnen het wordt ingezet, de mogelijke gevolgen voor burgers en grondrechten en de mate waarin menselijke controle daadwerkelijk mogelijk is.
Het Algoritmeregister
Het Algoritmeregister van de Nederlandse overheid
maakt inzichtelijk welke algoritmes overheidsorganisaties gebruiken. Dit register vergroot de transparantie en stelt burgers, journalisten en volksvertegenwoordigers in staat om mee te kijken. Voor overheden is publicatie van hoog-risicoalgoritmes in het register een belangrijke stap richting verantwoording.
Toezicht door de Autoriteit Persoonsgegevens
De Autoriteit Persoonsgegevens (AP)
houdt toezicht op het gebruik van algoritmes en AI en waakt over de bescherming van persoonsgegevens. Bij AI-toepassingen die persoonsgegevens verwerken, is vaak een gegevensbeschermingseffectbeoordeling (DPIA) verplicht, en waar grondrechten in het geding zijn, een impactassessment mensenrechten en algoritmes (IAMA).
Nederlandse strategie en visie
Naast wetgeving geeft de Nederlandse overheid met de Nederlandse Digitaliseringsstrategie (NDS)
en de overheidsbrede visie op generatieve AI richting aan de verantwoorde inzet van AI. De NDS maakt AI tot een van de zes gezamenlijke prioriteiten voor de digitale overheid en zet onder meer in op het opschalen van succesvolle AI-toepassingen, Nederlandse en Europese taalmodellen en voldoende AI-talent. De overheidsbrede visie op generatieve AI beschrijft daarnaast de kansen en risico’s van generatieve AI en stelt veilig, rechtvaardig en mensgericht gebruik centraal.
Voor de praktische uitvoering kunnen overheidsorganisaties gebruikmaken van het Algoritmekader waarin wetten, normen, maatregelen en hulpmiddelen voor de verantwoorde inzet van algoritmes en AI samenkomen.
Bij de inkoop van AI
moeten overheidsorganisaties vooraf vastleggen aan welke eisen een systeem en leverancier moeten voldoen. Denk aan transparantie, informatiebeveiliging, privacy, controle over data, risicobeheer en mogelijkheden voor audits. Het Algoritmekader adviseert om deze vereisten onderdeel te maken van onder meer het programma van eisen, de gunningscriteria, contractvoorwaarden en service level agreements.
Het ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK) heeft een centrale coördinerende rol bij het opschalen van AI binnen de overheid. Via een overheidsbrede AI-opschalingsfaciliteit wil de overheid succesvolle AI-toepassingen hergebruiken en breder implementeren, terwijl binnen de Nederlandse Digitaliseringsstrategie ook de inrichting van een overheidsbreed AI-competentiecentrum wordt verkend. Daarnaast ondersteunt het programma sAIdkick
samenwerking en hergebruik door AI-toepassingen, herbruikbare bouwblokken en praktische kennis beschikbaar te maken voor overheidsorganisaties.
Hoe AI de overheid efficiënter maakt en de dienstverlening verbetert
Mits verantwoord ingezet, biedt AI de publieke sector concrete voordelen:
Routinetaken automatiseren: door tijdrovende, handmatige taken over te laten aan AI of AI-gestuurde agents, kunnen medewerkers meer tijd besteden aan complexe vraagstukken en strategische initiatieven.
Efficiëntie van de overheid verbeteren: door processen en workflows te stroomlijnen kunnen overheidsdiensten taken sneller uitvoeren, vaak met minder middelen en tegen lagere operationele kosten.
Betere beslissingen nemen: de actuele data en inzichten die AI levert, helpen overheidsdiensten om sneller en beter onderbouwde beslissingen te nemen, met de mens als eindverantwoordelijke.
Openbare veiligheid vergroten: geavanceerde analytics kunnen trends signaleren en mogelijke dreigingen helpen voorkomen, waardoor hulp sneller beschikbaar is.
Dienstverlening aan burgers verbeteren: gebruiksvriendelijke en persoonlijkere digitale ervaringen maken het voor burgers eenvoudiger om gebruik te maken van overheidsdiensten.
Werving en onboarding stroomlijnen: door wervingsprocessen te vereenvoudigen en te automatiseren, kunnen overheidsdiensten nieuw talent efficiënter aantrekken, selecteren en inwerken.
Waar de overheid AI inzet: van dienstverlening tot infrastructuur
AI in de publieke sector heeft het vermogen om overheidsdiensten ingrijpend te verbeteren, zodat burgers effectiever worden geholpen. De toepassingen zijn vrijwel eindeloos
: van verkeersmanagement en gezondheidszorg tot het verwerken van de formulieren en het papierwerk dat bij vrijwel elke overheidsinstantie voor opstoppingen zorgt.
Gezondheidszorg: gezondheidsdiensten zetten AI in voor alles, van het versnellen van medicijnonderzoek tot het detecteren en voorkomen van de volgende pandemie
.
De inzet van AI verschilt per overheidsdomein en functie. Bij gemeenten kan AI helpen bij het beantwoorden van inwonersvragen en het verwerken van aanvragen. In de publieke zorg kan AI ondersteunen bij administratieve processen en het analyseren van gegevens, terwijl binnen veiligheid en handhaving vooral zorgvuldige risicoanalyse en menselijk toezicht belangrijk zijn. Voor P&O-afdelingen liggen mogelijkheden bij personeelsplanning en het ontwikkelen van vaardigheden. IT-teams richten zich op datakwaliteit, beveiliging en de technische implementatie van AI-systemen. Beleidsmakers moeten vooral beoordelen of toepassingen aansluiten bij wetgeving, publieke waarden en maatschappelijke behoeften.
De rol van Salesforce en Agentforce
AI kan binnen de overheid verschillende rollen vervullen. Voorspellende AI analyseert historische data om patronen te herkennen en voorspellingen te doen. Generatieve AI maakt nieuwe content, zoals samenvattingen, antwoorden en conceptteksten. Agentgestuurde AI gaat een stap verder: deze AI kan zelfstandig redeneren, plannen en acties uitvoeren om een bepaald doel te bereiken.
Salesforce ondersteunt overheden met Agentforce, een platform waarmee organisaties AI-agents kunnen inzetten binnen vooraf bepaalde kaders. Binnen de overheid kunnen deze agents bijvoorbeeld vragen van burgers beantwoorden, medewerkers helpen informatie te vinden, routinematige taken uitvoeren en ondersteunen bij de afhandeling van aanvragen en andere dienstverleningsprocessen.
Medewerkers voorbereiden op AI
Het brede scala aan AI-toepassingen zorgt voor een grote behoefte aan digitaal vaardige medewerkers. Toch is één van de grootste obstakels voor overheidsinstanties bij het snel omarmen van deze technologie het gebrek aan AI- en datamanagementvaardigheden binnen het eigen personeelsbestand.
Veel overheidsmedewerkers zijn niet opgeleid in de data science- en AI-vaardigheden die nodig zijn om de enorme hoeveelheid burgerdata te verwerken en geavanceerde AI-modellen te bouwen die uiteindelijk ten goede komen aan het publiek.
Hoe zorgen we ervoor dat medewerkers niet verdwalen of, erger nog, achterblijven nu er zoveel tegelijk en zo snel verandert? En hoe geven we medewerkers de juiste tools mee die gelijkheid, toegankelijkheid en veiligheid waarborgen? Dit is extra belangrijk voor publieke sector-organisaties, die de verantwoordelijkheid dragen om aan hoge beveiligings- en privacyvereisten te voldoen.
Gedegen onderwijs en training op het gebied van verantwoord gebruik van AI is de volgende stap voor organisaties, zodat de publieke sector burgers beter kan bedienen. Een praktisch leertraject begint bij de basis: begrijpen wat AI wel en niet kan en hoe medewerkers de uitkomsten kritisch beoordelen. Daarna kunnen medewerkers zich verdiepen in prompt engineering, het formuleren en verbeteren van instructies voor generatieve AI en in AI-ethiek, privacy en het herkennen van vooringenomenheid in algoritmes. Voor data- en IT-specialisten zijn aanvullende vaardigheden in data-analyse en data science relevant. Via het gratis leerplatform Trailhead kunnen medewerkers deze onderwerpen stap voor stap verkennen.
Bij investeringen in digitalisering spelen ook kosten en meetbare resultaten een rol. Een door Salesforce in opdracht gegeven Total Economic Impact-studie van Forrester
naar Salesforce Case Management berekende voor een samengestelde overheidsorganisatie een potentiële ROI van 104%. Let op: dit resultaat heeft betrekking op casemanagement en moet daarom niet worden gezien als een algemene ROI voor AI.
AI-toepassingen bij gemeenten en andere overheidsorganisaties
Nu je weet hoe belangrijk AI-onderwijs is, is het tijd om te kijken hoe overheden zich internationaal en in Nederland op deze kans voorbereiden.
Voorbeelden van AI bij de overheid
Ook Nederlandse overheidsorganisaties zetten stappen richting datagedreven en AI-ondersteunde dienstverlening. Niet alle onderstaande voorbeelden zijn op zichzelf AI-toepassingen, maar ze laten wel zien hoe gemeentendata, automatisering en digitale dienstverlening inzetten als basis voor verdere toepassing van AI.
Gemeente Tilburg
– Gebruikt Salesforce om informatie en dienstverlening rond inwoners beter samen te brengen. Het klantcontactcentrum maakt onder meer gebruik van een kennisbank en chatbots, zodat inwoners digitaal antwoord kunnen krijgen en medewerkers sneller over relevante informatie beschikken.
Gemeente Stadskanaal
– Bij deze gemeente ondersteunt Salesforce het Klant Contact Centrum (KCC) bij het stroomlijnen van de dienstverlening aan inwoners. Medewerkers hebben via Service Cloud toegang tot klanthistorie, een kennisbank en gekoppelde gemeentelijke systemen. Het KCC kan circa 65% van de vragen van inwoners zelf afhandelen, waardoor vakafdelingen vooral de meer inhoudelijke vragen ontvangen. Dit laat zien hoe een geïntegreerde data- en serviceomgeving een basis kan vormen voor verdere automatisering en AI-ondersteunde dienstverlening.
Ook andere Nederlandse publieke organisaties gebruiken algoritmes en AI-ondersteunde systemen in hun dienstverlening en uitvoering. Zo gebruikt de Belastingdienst algoritmes om grote aantallen aangiften en controles te ondersteunen, zet UWV-algoritmes in bij onder meer het beoordelen en prioriteren van signalen en gebruikt de politie systemen voor bijvoorbeeld tekstclassificatie en ondersteuning bij het doorzoeken en ordenen van informatie. Deze voorbeelden laten zien dat de toepassingen uiteenlopen van dienstverlening en administratieve processen tot toezicht en handhaving.
Daarnaast ontwikkelt Nederland met GPT-NL een Nederlands taalmodel waarbij transparantie, toetsbaarheid en publieke waarden belangrijke uitgangspunten zijn. Daarmee ontstaat ook een Nederlandse basis voor toekomstige toepassingen van generatieve AI binnen de publieke sector.
Ook internationaal zijn er verschillende voorbeelden van hoe overheden AI inzetten en investeren in de kennis en vaardigheden die daarvoor nodig zijn.
Finland – Elements of AI:Finland lanceerde Elements of AI in 2018
, gratis online cursussen die niet-specialisten kennis laten maken met de basisprincipes van AI. De Finse overheid beloofde minstens 1 procent van de bevolking op te leiden, een doel dat snel werd bereikt en overtroffen. De cursussen zijn nu beschikbaar in meer dan twintig talen en wereldwijd hebben al 1 miljoen mensen ze afgerond.
Singapore – AI for Everyone:AI Singapore lanceerde het programma AI for Everyone
, een nationaal initiatief om mensen en organisaties de vaardigheden te geven om AI in te zetten voor maatschappelijk nut, inclusief financiering voor projecten die bijdragen aan sociale verandering.
Publieke waarden en lessen uit de Toeslagenaffaire
Geen enkel artikel over AI bij de Nederlandse overheid is compleet zonder stil te staan bij de bescherming van publieke waarden en mensenrechten. De Toeslagenaffaire, waarbij een risicomodel onbedoeld leidde tot discriminatie en grote schade bij duizenden ouders, is een indringende les over wat er misgaat als algoritmes zonder voldoende toezicht en transparantie worden ingezet.
Ook de SyRI-uitspraak
laat zien dat het gebruik van datagedreven systemen door de overheid aan duidelijke rechtsstatelijke grenzen is gebonden. In 2020 oordeelde de Rechtbank Den Haag dat de wetgeving rond het Systeem Risico Indicatie (SyRI), dat werd gebruikt bij de bestrijding van fraude, in strijd was met artikel 8 van het Europees Verdrag voor de Rechten van de Mens. Volgens de rechtbank was de inzet van SyRI onvoldoende inzichtelijk en controleerbaar en bood de wetgeving onvoldoende waarborgen voor het recht op respect voor het privéleven.
Deze ervaring vormt de kern van hoe Nederland vandaag naar AI kijkt. Onderzoek van de Algemene Rekenkamer
laat zien dat transparantie en controle ook bij de huidige inzet van AI nog aandacht vragen. Bij 70 onderzochte overheidsorganisaties werden 433 AI-systemen gerapporteerd. Slechts 5% daarvan stond in het openbare Algoritmeregister. Bovendien was bij 35% van de AI-systemen die daadwerkelijk in gebruik waren niet bekend of het systeem aan de verwachtingen voldeed. Deze cijfers onderstrepen het belang van transparantie, monitoring en duidelijke criteria om de prestaties en risico’s van AI te beoordelen.
Verantwoorde inzet betekent dat overheden bij elke toepassing rekening houden met:
Non-discriminatie: algoritmes mogen niet leiden tot ongelijke of onrechtvaardige behandeling van bevolkingsgroepen.
Transparantie: burgers moeten kunnen begrijpen en nagaan hoe besluiten tot stand komen, ondersteund door het Algoritmeregister.
Menselijk toezicht: een mens blijft eindverantwoordelijk en kan besluiten van AI corrigeren of terugdraaien.
Privacy en autonomie: de verwerking van persoonsgegevens gebeurt binnen de kaders van de AVG en onder toezicht van de Autoriteit Persoonsgegevens.
Beveiliging: AI verandert het cybersecuritylandschap en kan bestaande digitale dreigingen versterken. Aanvallers kunnen AI bijvoorbeeld gebruiken om cyberaanvallen sneller en op grotere schaal uit te voeren, terwijl het gebruik van generatieve AI binnen organisaties ook risico’s oplevert wanneer gevoelige gegevens bij externe partijen terechtkomen. Het Nationaal Cyber Security Centrum (NCSC)
adviseert organisaties daarom om AI-risico’s expliciet mee te nemen in hun digitale weerbaarheid.
Desinformatie en misleiding: generatieve AI maakt het eenvoudiger om overtuigende maar onjuiste of gemanipuleerde content te produceren. De AI-verordening bevat daarom transparantieverplichtingen voor bepaalde AI-gegenereerde content
, waaronder deepfakes en teksten over onderwerpen van algemeen belang. Voor overheidscommunicatie maakt dit menselijke controle en duidelijkheid over AI-gegenereerde content extra belangrijk.
Verantwoording: overheden leggen uit waarom en hoe zij AI inzetten en welke waarborgen zij hebben getroffen.
Door deze waarden vanaf het begin in het ontwerp van AI-systemen te verankeren, bouwen overheden aan technologie die het vertrouwen van burgers verdient in plaats van ondermijnt.
Voordelen van het bijscholen van medewerkers voor AI in de overheid
Medewerkers met de juiste vaardigheden zijn onmisbaar voor een goed functionerende overheid. De medewerkerservaring hangt rechtstreeks samen met de ervaring van burgers: uit ons onderzoek blijkt dat slechts 18% van de respondenten vindt dat de klantervaring centraal staat bij hun contacten met de overheid.
Ook binnen de Nederlandse overheid is het versterken van digitale vaardigheden een belangrijk aandachtspunt. De Nederlandse Digitaliseringsstrategie
zet daarom in op digitaal vakmanschap, met meer mogelijkheden voor ambtenaren om hun digitale kennis en AI-vaardigheden verder te ontwikkelen.
Er liggen dus enorme kansen om medewerkers in de publieke sector bij te scholen zodat zij optimaal gebruik kunnen maken van AI. Dit biedt niet alleen zekerheid voor medewerkers in een onzekere tijd, maar zorgt ook voor een betere dienstverlening aan de bevolking. Uiteindelijk is dit een kans om meer vertrouwen op te bouwen en te laten zien dat de publieke sector alles in het werk stelt om de bevolking zo goed mogelijk te bedienen.
Een praktisch stappenplan voor verantwoorde AI-adoptie
Overheidsorganisaties die AI willen invoeren, kunnen de volgende stappen aanhouden:
Breng data op orde: moderniseer en integreer datasystemen, zodat AI kan bouwen op schone, betrouwbare gegevens.
Bepaal het risiconiveau: classificeer elke beoogde toepassing volgens de EU AI-Act en stel vast welke verplichtingen gelden.
Voer impactassessments uit: gebruik een DPIA en, waar grondrechten spelen, een IAMA om risico's vooraf in kaart te brengen.
Investeer in AI-geletterdheid: train medewerkers zodat zij AI begrijpen, kunnen beoordelen en menselijk toezicht kunnen uitoefenen.
Waarborg transparantie: registreer hoog-risicoalgoritmes in het Algoritmeregister en communiceer helder met burgers.
Evalueer doorlopend: monitor prestaties, bias en effecten, en stuur bij waar nodig.
Van experiment naar verantwoorde AI op schaal bij de overheid
Eén van de belangrijkste manieren om je medewerkers en organisatie klaar te maken voor AI is het moderniseren en samenvoegen van je data. Houd daarbij in gedachten dat AI-tools slechts zo effectief zijn als de data waaruit ze putten en de mensen die de technologie aansturen.
Wanneer je data verbonden en samengevoegd is, kun je het volledige potentieel van AI en automatisering benutten, gevoed door actuele inzichten. Zo bouw je ervaringen die niet alleen de missie van je organisatie vooruithelpen, maar ook het vertrouwen versterken van de mensen die je bedient.
Twee derde van de onderzochte generatieve AI-systemen is nog experimenteel
AI krijgt ondertussen een steeds concretere plek binnen de Nederlandse overheid. Uit onderzoek van de Algemene Rekenkamer
blijkt dat generatieve AI nog vooral wordt gebruikt in experimenten, bijvoorbeeld voor interne chatbots, ondersteuning bij programmeren en het (her)schrijven van documenten. Van de 73 gerapporteerde generatieve AI-systemen waren er 48 nog in de experimentele fase en 8 daadwerkelijk in gebruik. Dit laat zien dat de overheid zich in een overgangsfase bevindt: van experimenteren naar een meer structurele en verantwoorde inzet van AI.
In Nederland verschuift de aandacht naar een gezamenlijke, overheidsbrede aanpak van AI. De Nederlandse Digitaliseringsstrategie zet in op het verantwoord opschalen van succesvolle AI-toepassingen, hoogwaardige data, Nederlandse en Europese taalmodellen en voldoende AI-talent. Daarbij werken Rijk, gemeenten, provincies, waterschappen en publieke dienstverleners gezamenlijk aan een sterkere digitale overheid.
Vertrouwen en beveiliging als fundament
Vertrouwen is een onmisbaar onderdeel van AI in de overheid, wat betekent dat data-integriteit en beveiliging zwaar wegen. Dat biedt overheidsinstellingen de kans om een solide basis te leggen, zoals het analyseren en standaardiseren van grote datasets, het implementeren van geavanceerde beveiligingsmaatregelen en innovatieve datamodellering, als voorbereiding op een toekomst die draait om verantwoorde AI.
Begrippenlijst: AI in de publieke sector
AI-Act (AI-verordening): de Europese wet die AI-systemen reguleert op basis van risico en eisen stelt aan onder meer transparantie en menselijk toezicht.
Algoritmeregister: het openbare register waarin de Nederlandse overheid de door haar gebruikte algoritmes publiceert voor meer transparantie.
AI-geletterdheid: het vermogen van medewerkers om AI te begrijpen, verantwoord te gebruiken en de werking en risico's ervan te doorgronden.
IAMA: het impactassessment mensenrechten en algoritmes, een instrument om risico's voor grondrechten in kaart te brengen voordat een algoritme wordt ingezet.
DPIA: de gegevensbeschermingseffectbeoordeling, verplicht bij gegevensverwerking met een hoog privacyrisico.
Generatieve AI: AI die nieuwe content zoals tekst of beeld genereert op basis van grote taalmodellen.
GPT-NL: een Nederlands, transparant en toetsbaar taalmodel dat wordt ontwikkeld met publieke waarden als uitgangspunt.
Veelgestelde vragen over AI overheid
AI wordt bij de overheid ingezet om de operationele efficiëntie te verbeteren, de openbare veiligheid te versterken en dienstverlening aan burgers te moderniseren. Het helpt bij het stroomlijnen van dataverwerking, het automatiseren van taken en het bieden van persoonlijkere digitale ervaringen voor burgers. Deze technologie kan ook ondersteunen bij het nemen van datagedreven beslissingen, altijd onder menselijk toezicht en binnen de kaders van de EU AI-Act.
De EU AI-Act deelt AI-systemen in op basis van risico. Veel overheidstoepassingen, zoals fraudedetectie of het toekennen van uitkeringen, gelden als 'hoog risico' en zijn daarmee onderworpen aan strenge eisen rond transparantie, datakwaliteit, menselijk toezicht en impactassessments. Bepaalde toepassingen, zoals sociale scoring door de overheid, zijn volledig verboden.
AI-geletterdheid betekent dat medewerkers voldoende kennis en vaardigheden hebben om AI-systemen verantwoord te gebruiken en de mogelijkheden, risico’s en beperkingen ervan te begrijpen. De EU AI-Act verplicht organisaties die AI-systemen aanbieden of gebruiken om maatregelen te nemen om een toereikend niveau van AI-geletterdheid bij medewerkers te waarborgen. Voor overheidsorganisaties betekent dit onder meer investeren in training en zorgen dat medewerkers effectief menselijk toezicht kunnen uitoefenen.
Het Algoritmeregister van de Nederlandse overheid is een openbaar register waarin overheidsorganisaties de algoritmes publiceren die zij gebruiken. Het vergroot de transparantie en stelt burgers, journalisten en volksvertegenwoordigers in staat om te controleren hoe de overheid AI en algoritmes inzet.
In Nederland gebruiken overheidsorganisaties digitale technologie steeds vaker als basis voor AI-ondersteunde dienstverlening. Zo zet Gemeente Tilburg onder meer chatbots en een kennisbank in voor de dienstverlening aan inwoners, terwijl Gemeente Stadskanaal data, kennis en klantcontact samenbrengt in het KCC. Daarnaast wordt met GPT-NL gewerkt aan een Nederlands taalmodel dat aansluit bij publieke waarden.
Een belangrijke uitdaging is een tekort aan kennis en vaardigheden: veel besluitvormers vinden dat ze onvoldoende toegang hebben tot hoogwaardige AI-expertise, terwijl AI-geletterdheid sinds de AI-Act wettelijk verplicht is. Datamodernisering vormt eveneens een obstakel, omdat AI schone en geïntegreerde data nodig heeft om effectief én verantwoord te zijn.
Om zich voor te bereiden, moeten overheidsorganisaties eerst hun datasystemen moderniseren en integreren. Daarnaast is het belangrijk te investeren in AI-geletterdheid en trainingsprogramma's, de risicoclassificatie van de EU AI-Act toe te passen en impactassessments zoals DPIA en IAMA uit te voeren voordat een systeem live gaat.
Ethische overwegingen omvatten gegevensprivacy, vooringenomenheid in algoritmes en transparantie. Lessen uit de Toeslagenaffaire laten zien hoe belangrijk non-discriminatie en menselijk toezicht zijn. Overheden moeten duidelijke richtlijnen opstellen, publieke waarden en mensenrechten waarborgen en verantwoording afleggen om het vertrouwen van burgers te winnen.
Publieke waarden zoals non-discriminatie, transparantie, privacy, menselijke autonomie en verantwoording moeten vanaf het ontwerp van een AI-toepassing worden meegenomen. Overheidsorganisaties kunnen risico’s vooraf beoordelen met instrumenten zoals een DPIA en het Impact Assessment Mensenrechten en Algoritmes (IAMA), menselijk toezicht organiseren en relevante algoritmes transparant maken via het Algoritmeregister.
De schrijvers zijn ondersteund door AI om deze veelgestelde vragen op te stellen
Blijf op de hoogte van de nieuwste trends, inzichten en hulpmiddelen voor de Public Sector Solutions.