Focus op AI bij de rijksoverheid

De rijksoverheid weet van veel kunstmatige intelligentie (AI) niet of die naar behoren werkt. Voor meer dan de helft van de AI-systemen die het Rijk gebruikt, zeggen overheidsorganisaties dat de kansen nog niet zijn afgewogen tegen eventuele... Die 70 organisaties hebben bij elkaar 433 AI-systemen opgegeven. Het gebruik van AI binnen het Rijk is nog niet erg wijdverbreid: De meeste systemen (167) zijn nog lopende experimenten, en veruit de meeste organisaties (88%) geven aan niet meer dan 3 AI-systemen te gebruiken. Slechts 5% van de systemen is te vinden in het openbaar algoritmeregister. De organisaties die het meest gebruik maken van AI zijn de politie en het UWV. Zij gebruiken respectievelijk 23 en 10 AI-systemen. Het onderzoek van de Rekenkamer geeft voor het eerst inzicht in hoeveel AI het Rijk gebruikt en waarvoor. Vooral gericht op interne processen Zo’n twee derde van alle systemen is gericht op interne processen die niet direct impact hebben op burgers en bedrijven, zoals het doorzoeken en verwerken van grote hoeveelheden informatie om processen te optimaliseren. Door AI die bijvoorbeeld gesprekken automatisch omzet naar tekst, of documenten in een handomdraai kan anonimiseren, kan de overheid veel tijd en geld besparen. Ook kost het doorzoeken van interne documenten aanzienlijk minder moeite dan wanneer ambtenaren dat handmatig moeten doen. AI wordt veel toegepast voor inspectie, handhaving en kennisverwerking Prestaties onbekend Het valt op dat organisaties vaak [...]

Digitale disruptie, nieuwe technologie en AIGovernance en verslaggevingVeranderende wet- en regelgeving

Waarom deze indeling: Het focusonderzoek inventariseert bij 70 overheidsorganisaties het gebruik van artificiele intelligentie: 433 opgegeven AI-systemen, waarvan 120 daadwerkelijk in gebruik, met kennisverwerking (124) en inspectie en handhaving (82) als grootste toepassingen en 73 generatieve AI-systemen. De beheersing schiet tekort: voor 54 procent van de systemen is geen aantoonbare risicoafweging gemaakt, bij 35 procent van de gebruikte systemen is onbekend of ze de verwachting waarmaken, slechts 22 systemen staan in het algoritmeregister en er is geen rijksbreed afwegingsinstrument, waardoor eenzelfde vingerafdruksysteem door drie organisaties verschillend wordt geclassificeerd. De AI-verordening is het normerende kader met termijnen vanaf februari 2025, en de Rekenkamer signaleert een prikkel om systemen niet als hoog risico in te schalen, terwijl enkele organisaties niet zeker weten of zij verboden systemen gebruiken.

Toegekend met een AI-model (Opus 5) op basis van de zestien thema's van Risk in Focus; niet door mensen gevalideerd. Om de labels beter te onderbouwen gaan we ze gefaseerd herbeoordelen met een tweede, onafhankelijk model van een andere aanbieder (OpenAI naast Anthropic); vanwege tokenlimieten gebeurt dat stapsgewijs. Ziet u een fout? Laat het weten.

Ministerie

Rijksbreed

Onderdeel volgens het rapport

Rijksbreed; Kerndepartement BZK

Bron

Algemene Rekenkamer

Toegepaste standaard

ISSAI

Datum

2024-10-16

Het rapport zelf

originele publicatie

Omschrijving

officiële omschrijving, overgenomen van de publicatiepagina

Risicolabels

toegekend met een AI-model (Opus 5) volgens de zestien thema's van Risk in Focus (ECIIA), niet door mensen gevalideerd

Bijgewerkt

augustus 2026