Discriminerende algoritmes gebruikt door overheden, waarschuwt AP

Gepubliceerd op 02/07/2024 22:00 in Binnenland

Het gebruik van discriminerende algoritmes bij overheidsinstanties lijkt veelvoorkomend te zijn, volgens de voorzitter van de Autoriteit Persoonsgegevens (AP), Aleid Wolfsen. Hij benadrukt dat dit vaak onbewust gebeurt.

De algoritmes worden ingezet door overheden om fraude op te sporen, maar Wolfsen waarschuwt dat er vaak geen goede onderbouwing is voor het maken van onderscheid op basis van bijvoorbeeld leeftijd of opleidingsniveau. Hij noemt als voorbeelden de fraudescorekaart van een aantal gemeenten en de misstanden bij de Dienst Uitvoering Onderwijs (DUO).

Het ontbreken van een goede onderbouwing bij het gebruik van risico-indicatoren in het algoritme van DUO noemt Wolfsen bijzonder zorgwekkend. Hij uit zijn zorgen over het feit dat er op grote schaal mogelijk gediscrimineerd wordt.

Instanties geven aan dat zij worstelen met de druk om misbruik van belastinggeld op te sporen met beperkte middelen. Hoewel 100 procent controle niet haalbaar is, wordt er gekeken waar het risico op fraude het hoogst is.

Wolfsen benadrukt dat bewustwording een essentieel onderdeel is van de oplossing. Ook pleit hij voor meer transparantie over het gebruik van algoritmes en voor een verdubbeling van het personeelsbestand van de AP. Hij wijst ook op het omstreden algoritme van DUO dat tien jaar lang gebruikt werd zonder klachten, omdat slachtoffers niet eens wisten dat zij op basis van een algoritme geselecteerd waren.

De AP heeft zelf ook kritiek gekregen op haar functioneren in de afgelopen jaren. Veel burgers met klachten kwamen voor een dichte deur te staan en er waren problemen met achterstanden en lange wachttijden.