Inzet algoritmes niet altijd effectief en veilig

Dit onderzoek maakt deel uit van verantwoordingsonderzoek ministerie van Justitie en Veiligheid. De rijksoverheid zet algoritmes in om handelingen te automatiseren of voorspellingen te doen. Algoritmes worden ook gebruikt in het veiligheidsdomein. We onderzochten of 2 van dit soort algoritmes op een verantwoorde manier worden ingezet. De politie gebruikt het algoritme om data uit sensoren te analyseren op verdacht gedrag of strafbare feiten. Eén van deze systemen is de iTrechter. Binnen de iTrechter draaien meerdere profielen op basis van verschillend crimineel gedrag. Mocht een profiel op basis van de sensordata een hit “sein” krijgen, dan kunnen agenten bepalen of zij deze opvolgen. De inzet kan risico’s voor de privacy van burgers opleveren of ertoe leiden dat mensen onterecht staande worden gehouden. De Douane controleert zendingen met het algoritme “Detecteren risico’s” in douaneaangiften voor naleving vergunningplicht strategische goederen. Dat zijn goederen die voor andere doeleinden zouden kunnen worden gebruikt door bijvoorbeeld een leger in het buitenland. Dit kan de internationale, maar ook Nederlandse veiligheid in gevaar brengen. Zie ook de uitkomst van ons beleidsonderzoek “Controle op doorvoer strategische goederen”.

Digitale disruptie, nieuwe technologie en AICybersecurity en gegevensbeveiliging

Waarom deze indeling: Onderzoek naar twee algoritmes in het veiligheidsdomein: de iTrechter van de politie draait op fragiele en verouderde software en hits worden niet systematisch gevolgd, terwijl de Douane de effectiviteit van de risicoprofielen voor strategische goederen niet kan aantonen en het evaluatieproces niet volgde. Daarnaast kon de politie niet laten zien of de beveiliging van de iTrechter op orde is en voldoet het Douane-algoritme aan geen enkele norm voor IT-beheer, waardoor onbevoegden mogelijk toegang kunnen krijgen, wat het cyber-label draagt.

Toegekend met een AI-model (Fable 5) op basis van de zestien thema's van Risk in Focus; niet door mensen gevalideerd. Om de labels beter te onderbouwen gaan we ze gefaseerd herbeoordelen met een tweede, onafhankelijk model van een andere aanbieder (OpenAI naast Anthropic); vanwege tokenlimieten gebeurt dat stapsgewijs. Ziet u een fout? Laat het weten.

Ministerie

Ministerie van Justitie en Veiligheid

Onderdeel volgens het rapport

Politie en Douane; minister van JenV; algoritmes iTrechter en 'Detecteren risico's'

Bron

Algemene Rekenkamer

Toegepaste standaard

ISSAI

Datum

2026-05-20

Het rapport zelf

originele publicatie

Omschrijving

officiële omschrijving, overgenomen van de publicatiepagina

Risicolabels

toegekend met een AI-model (Fable 5) volgens de zestien thema's van Risk in Focus (ECIIA), niet door mensen gevalideerd

Bijgewerkt

augustus 2026