Rijksmap

Rijksmap › Ministerie van Onderwijs, Cultuur en Wetenschap › Dienst Uitvoering Onderwijs › rapport

Vooringenomenheid voorkomen Addendum

2024-05-21 · Onderzoeken en evaluaties: Algorithm Audit · standaard Extern onderzoek · Toezicht & onderzoek

Open het rapport bij de bron Toon dit rapport in de interactieve Rijksmap

Waar gaat dit rapport over?

Officiële omschrijving

Het rapport is een toevoeging bij het rapport 'Vooringenomenheid voorkomen'. Dit rapport gaat over onderzoek dat de Dienst Uitvoering Onderwijs (DUO) heeft laten uitvoeren naar aanleiding van berichten in de media over indirecte discriminatie van studenten met een migratie-achtergrond bij het controleproces uitwonendenbeurs

Risicothema's

Digitale disruptie, nieuwe technologie en AIVeranderende wet- en regelgevingGovernance en verslaggevingFraude, omkoping en criminele uitbuiting

Waarom deze indeling: Op basis van CBS-gegevens over ruim 300.000 ontvangers van de uitwonendenbeurs stelt de biasmeting vast dat het controleproces van DUO als geheel vooringenomen was ten aanzien van studenten met een niet-Europese migratieachtergrond. Zij werden 2,0 keer vaker als hoog risico bestempeld door het risicoprofiel, 6,2 keer vaker handmatig geselecteerd voor een huisbezoek en hadden 3,0 keer meer kans op een huisbezoek waaruit geen onrechtmatig gebruik bleek. De criteria onderwijsvorm en afstand tot het ouderlijk adres blijken proxykenmerken: mbo 1-2 en een kleine afstand correleren sterk met deze groep. De bezwaarpopulatie bestaat over vier peiljaren voor 79 tot 85 procent uit deze studenten, terwijl in de bezwaarprocedure zelf geen vooringenomenheid is gemeten.

Toegekend met een AI-model (Opus 5) op basis van de zestien thema's van Risk in Focus; niet door mensen gevalideerd. Om de labels beter te onderbouwen gaan we ze gefaseerd herbeoordelen met een tweede, onafhankelijk model van een andere aanbieder (OpenAI naast Anthropic); vanwege tokenlimieten gebeurt dat stapsgewijs. Ziet u een fout? Laat het weten.

Waar hoort dit rapport bij?

Ministerie
Ministerie van Onderwijs, Cultuur en Wetenschap
Organisatieonderdeel
Dienst Uitvoering Onderwijs
Onderdeel volgens het rapport
Dienst Uitvoering Onderwijs (DUO)
Bron
Onderzoeken en evaluaties: Algorithm Audit
Toegepaste standaard
Extern onderzoek
Datum
2024-05-21

Bronnen

Het rapport zelf
originele publicatie
Omschrijving
officiële omschrijving, overgenomen van de publicatiepagina
Risicolabels
toegekend met een AI-model (Opus 5) volgens de zestien thema's van Risk in Focus (ECIIA), niet door mensen gevalideerd
Indeling bij een onderdeel
rapportreview van de Rijksmap, op basis van de organisatie die in het rapport wordt genoemd
Bijgewerkt
augustus 2026

Andere rapporten over Dienst Uitvoering Onderwijs

Alle openbaar bekende rapporten over Dienst Uitvoering Onderwijs