Foto: Zsolt Szabo, staatssecretaris Koninkrijksrelaties en Digitalisering © Martijn Beekman
Generatieve AI biedt overheidsorganisaties nieuwe kansen voor het verbeteren van de dienstverlening en de aanpak van maatschappelijke vraagstukken. Maar de risico’s zijn groot, zeker als ambtenaren de technologie onzorgvuldig inzetten. Het kabinet stimuleert de ontwikkeling van innovatieve toepassingen van generatieve AI, maar benadrukt dat overheden bij het gebruik steeds nut en noodzaak moeten vaststellen, een risico-analyse moeten maken en waarborgen creëren voor de veiligheid zoals een plan voor stopzetting.
De ‘Handreiking Generatieve AI’ die vandaag ook werd gepubliceerd gaat dieper in op de praktische stappen die overheden kunnen zetten om aan het beleid te voldoen. Er staan concrete tips in voor het inkopen, gebruiken en evalueren van AI-toepassingen en behandelt de juridische, ethische én veiligheidsaspecten.
AI-training wordt verplicht
De AI-geletterdheid van overheidsmedewerkers moet omhoog. Dit is een belangrijk element in het ‘Overheidsbreed standpunt voor de inzet van generatieve AI’. Er moeten trainingen komen om ze te informeren over het effectief en verantwoord gebruiken van generatieve AI. ‘Ik vind dat trainingen op dit vlak verplicht moeten worden, net als rond digitalisering en digitale weerbaarheid’, zegt Zsolt Szabó, staatssecretaris Digitale Zaken in een toelichting op de vandaag gepubliceerde documenten. ‘Het kan niet zo zijn dat de mensen die iedere dag bezig zijn met dit onderwerp denken dat ze zo’n training niet nodig hebben.’ Er zijn al diverse opleidingen in de maak onder de vlag van de RijksAcademie voor Digitalisering en Informatisering Overheid (RADIO). ‘We zijn in het kader van de digitaliseringsstrategie ook bezig met i-vakmanschap. AI is daar een heel belangrijke pijler in. Dan gaat het om de basisvaardigheden waar eigenlijk elke ambtenaar over moet beschikken’, vult Jasper Kars, een van de mede-opstellers van de beide documenten. Alle overheidsorganisaties moeten aan de verplichte trainingseisen voldoen, zowel voor individueel als projectmatig gebruik. Ook externe partijen die diensten met generatieve AI leveren aan de overheid, vallen onder het genAI-beleid.
AI-fabriek
Om innovatie met AI te stimuleren werd begin vorig jaar een AI-testfaciliteit aangekondigd in ‘Overheidsbrede visie op generatieve AI’ van toenmalig staatssecretaris Digitale Zaken, Alexandra van Huffelen. In de vandaag gepubliceerde documenten staat daar niets meer over. Szabó: ‘Dat onderwerp valt nu onder de verantwoordelijkheid van Economische Zaken. De testfaciliteit is inmiddels hernoemd tot AI-fabriek en daar is in maart over gecommuniceerd.’ Hij somt wel een hele reeks experimenten op waarin overheden nu met AI bezig zijn. Zo is de gemeente Amsterdam bezig bezwaarschriften sneller te behandelen met de inzet van generatieve AI. ‘We hebben bij de provincie Zuid-Holland een GPT draaien, Defensie heeft er één, net als Justitie. We hebben TNO gevraagd die ontwikkelingen te evalueren. In het derde kwartaal verwachten we weer een monitor over wat de overheid doet met genAI.’
Toezichtstructuur
De ‘Overheidsbrede visie op generatieve AI’ die het kabinet in januari 2024 publiceerde, legde ook al de nadruk op de ontwikkeling van nieuwe toezichtstructuren, bijvoorbeeld om de Europese AI-Act te handhaven. In het huidige ‘Overheidsbreed standpunt voor de inzet van generatieve AI’ maakt het kabinet duidelijk dat overheidsorganisaties primair zelf verantwoordelijk zijn voor de naleving en verplicht zijn intern toezicht te organiseren. Alleen bij twijfel of complexe risico’s kunnen zij bijvoorbeeld de Autoriteit Persoonsgegevens inschakelen. Kars: ‘Daar komt binnenkort meer duidelijkheid over. Er is in Brussel een Europese toezichtstructuur ontworpen die op 2 augustus van kracht wordt. In Nederland zijn we bijna klaar met het vraagstuk hoe we het nationale toezicht gaan organiseren. De toezichthouders hebben daar eerder dit jaar al een advies over uitgebracht.’
