Salesforce Integrated Services Portal voor de publieke sector met een overzicht van de belangrijkste programma’s en casenummers

AI bij de overheid en de Publieke sector: toepassingen, wetgeving en praktijkvoorbeelden

Hoe gebruikt de overheid AI, welke voordelen biedt deze technologie en aan welke regels moeten overheidsorganisaties hierbij voldoen? Van betere dienstverlening aan burgers tot efficiëntere werkprocessen: AI biedt kansen voor gemeenten en andere publieke organisaties. Tegelijkertijd vragen de EU AI-Act, privacywetgeving en publieke waarden om een zorgvuldige aanpak. In dit artikel ontdek je welke AI-toepassingen er zijn, hoe de Nederlandse overheid ermee omgaat en wat nodig is om AI verantwoord in te zetten.

De EU AI-Act: risicoclassificatie als uitgangspunt

De EU AI-Act , officieel de Europese AI-verordening, deelt AI-systemen in op basis van risico. Voor overheden is dit bepalend, omdat veel toepassingen in de publieke sector als 'hoog risico' worden aangemerkt. De onderstaande tabel geeft de vier risicocategorieën weer.

Risicocategorie Betekenis Voorbeeld in de publieke sector
Onaanvaardbaar risico Verboden toepassingen Sociale scoring van burgers door de overheid 
Hoog risico Strenge eisen en toezicht verplicht  AI bij toekenning van uitkeringen of fraudedetectie 
Beperkt risico Transparantieverplichting  Chatbots die burgers te woord staan 
Minimaal risico Nauwelijks aanvullende eisen  Spamfilters en eenvoudige automatisering 

Veelgestelde vragen over AI overheid

AI wordt bij de overheid ingezet om de operationele efficiëntie te verbeteren, de openbare veiligheid te versterken en dienstverlening aan burgers te moderniseren. Het helpt bij het stroomlijnen van dataverwerking, het automatiseren van taken en het bieden van persoonlijkere digitale ervaringen voor burgers. Deze technologie kan ook ondersteunen bij het nemen van datagedreven beslissingen, altijd onder menselijk toezicht en binnen de kaders van de EU AI-Act.

De EU AI-Act deelt AI-systemen in op basis van risico. Veel overheidstoepassingen, zoals fraudedetectie of het toekennen van uitkeringen, gelden als 'hoog risico' en zijn daarmee onderworpen aan strenge eisen rond transparantie, datakwaliteit, menselijk toezicht en impactassessments. Bepaalde toepassingen, zoals sociale scoring door de overheid, zijn volledig verboden.

AI-geletterdheid betekent dat medewerkers voldoende kennis en vaardigheden hebben om AI-systemen verantwoord te gebruiken en de mogelijkheden, risico’s en beperkingen ervan te begrijpen. De EU AI-Act verplicht organisaties die AI-systemen aanbieden of gebruiken om maatregelen te nemen om een toereikend niveau van AI-geletterdheid bij medewerkers te waarborgen. Voor overheidsorganisaties betekent dit onder meer investeren in training en zorgen dat medewerkers effectief menselijk toezicht kunnen uitoefenen.

Het Algoritmeregister van de Nederlandse overheid is een openbaar register waarin overheidsorganisaties de algoritmes publiceren die zij gebruiken. Het vergroot de transparantie en stelt burgers, journalisten en volksvertegenwoordigers in staat om te controleren hoe de overheid AI en algoritmes inzet.

In Nederland gebruiken overheidsorganisaties digitale technologie steeds vaker als basis voor AI-ondersteunde dienstverlening. Zo zet Gemeente Tilburg onder meer chatbots en een kennisbank in voor de dienstverlening aan inwoners, terwijl Gemeente Stadskanaal data, kennis en klantcontact samenbrengt in het KCC. Daarnaast wordt met GPT-NL gewerkt aan een Nederlands taalmodel dat aansluit bij publieke waarden.

Een belangrijke uitdaging is een tekort aan kennis en vaardigheden: veel besluitvormers vinden dat ze onvoldoende toegang hebben tot hoogwaardige AI-expertise, terwijl AI-geletterdheid sinds de AI-Act wettelijk verplicht is. Datamodernisering vormt eveneens een obstakel, omdat AI schone en geïntegreerde data nodig heeft om effectief én verantwoord te zijn.

Om zich voor te bereiden, moeten overheidsorganisaties eerst hun datasystemen moderniseren en integreren. Daarnaast is het belangrijk te investeren in AI-geletterdheid en trainingsprogramma's, de risicoclassificatie van de EU AI-Act toe te passen en impactassessments zoals DPIA en IAMA uit te voeren voordat een systeem live gaat.

Ethische overwegingen omvatten gegevensprivacy, vooringenomenheid in algoritmes en transparantie. Lessen uit de Toeslagenaffaire laten zien hoe belangrijk non-discriminatie en menselijk toezicht zijn. Overheden moeten duidelijke richtlijnen opstellen, publieke waarden en mensenrechten waarborgen en verantwoording afleggen om het vertrouwen van burgers te winnen.

Publieke waarden zoals non-discriminatie, transparantie, privacy, menselijke autonomie en verantwoording moeten vanaf het ontwerp van een AI-toepassing worden meegenomen. Overheidsorganisaties kunnen risico’s vooraf beoordelen met instrumenten zoals een DPIA en het Impact Assessment Mensenrechten en Algoritmes (IAMA), menselijk toezicht organiseren en relevante algoritmes transparant maken via het Algoritmeregister.