Algoritmes getoetst

Een verantwoorde inzet van algoritmes door uitvoeringsorganisaties van de rijksoverheid is mogelijk, maar in de praktijk niet altijd het geval. De Algemene Rekenkamer heeft in een onderzoek bij 3... Dit is Sandra. Sandra zit middenin haar verhuizing naar een nieuwe woning. En omdat ze een huis gaat huren besluit ze om huurtoeslag aan te vragen bij de overheid. Naast Sandra zijn er nog duizenden andere Nederlanders die dagelijks dit soort aanvragen doen. Om al die aanvragen sneller en soepeler te laten verlopen maakt de overheid gebruik van algoritmes. Een algoritme is een reeks opdrachten die een computer stapsgewijs volgt. Dat kan voor allerlei doelen worden ingezet. Hiermee koppelt hij bijvoorbeeld automatisch je kenteken aan je adres als je geflitst bent... zodat de verkeersboete op het juiste adres komt. Maar een algoritme kan ook nagaan of je recht hebt op AOW... of zoals in het geval van Sandra, of ze recht heeft op huurtoeslag. Dat is efficiënt, maar er komen ook risico’s bij kijken. Daarom onderzoekt de Algemene Rekenkamer of algoritmes goed werken en of ze verstandig worden ingezet. Ziet het algoritme dat de aanvraag van Sandra aan alle voorwaarden voldoet? Dan wordt het geld automatisch uitgekeerd. Maar is dat niet het geval, of is het onduidelijk? Dan bekijkt een ambtenaar haar aanvraag en bepaalt hij of Sandra wel of geen geld krijgt. Dit kan er voor zorgen dat het soms langer duurt voordat er een besluit wordt genomen. [...]

Digitale disruptie, nieuwe technologie en AICybersecurity en gegevensbeveiligingGovernance en verslaggevingToeleveringsketen, uitbesteding en derden

Waarom deze indeling: De tekst toetst negen algoritmes bij de rijksoverheid en organisaties op afstand aan het toetsingskader algoritmes; drie voldoen, zes niet, met bias, ontbrekende DPIA bij RvIG en de politie en het gebruik van nationaliteit in het gestopte risicoclassificatiemodel van Toeslagen als concrete bevindingen. Het basis-IT-beheer schiet bij zes van de negen algoritmes tekort, omdat organisaties geen inzicht hebben wie toegang heeft tot data en algoritme, wat kan leiden tot ongeautoriseerde toegang, wijziging of dataverlies. Sturing en verantwoording ontbreekt bij periodieke risicoafweging en monitoring, en juist bij uitbesteding aan een externe leverancier is het algoritme voor RvIG een black box geworden doordat er geen duidelijke afspraken in de overeenkomst staan.

Toegekend met een AI-model (Opus 5) op basis van de zestien thema's van Risk in Focus; niet door mensen gevalideerd. Om de labels beter te onderbouwen gaan we ze gefaseerd herbeoordelen met een tweede, onafhankelijk model van een andere aanbieder (OpenAI naast Anthropic); vanwege tokenlimieten gebeurt dat stapsgewijs. Ziet u een fout? Laat het weten.

Ministerie

Rijksbreed

Onderdeel volgens het rapport

DG Digitalisering en Overheidsorganisatie

Bron

Algemene Rekenkamer

Toegepaste standaard

ISSAI

Datum

2022-05-18

Het rapport zelf

originele publicatie

Omschrijving

officiële omschrijving, overgenomen van de publicatiepagina

Risicolabels

toegekend met een AI-model (Opus 5) volgens de zestien thema's van Risk in Focus (ECIIA), niet door mensen gevalideerd

Bijgewerkt

augustus 2026