Student van VU klaagt Discriminatie door Antispieksoftware aan, College voor Rechten van de Mens concludeert anders

Gepubliceerd op 17/10/2023 20:00 in Binnenland

Een student van de Vrije Universiteit (VU) in Amsterdam heeft geen discriminatie ervaren door de antispieksoftware Proctorio, zo concludeert het College voor Rechten van de Mens na een ingediende klacht. Robin Pocornie, de student in kwestie, beweerde dat de software haar gezicht niet herkende vanwege haar donkere huidskleur, wat problemen veroorzaakte tijdens haar tentamens. Het college is echter van mening dat de VU voldoende heeft aangetoond dat Pocornie niet meer problemen had met inloggen dan andere studenten.

Tijdens de coronacrisis heeft de VU de software ingezet, aangezien studenten thuis tentamens moesten maken. Pocornie moest meerdere keren inloggen en had problemen zoals een felle lamp in haar gezicht tijdens het maken van tentamens. Het college oordeelt echter dat deze incidenten niet werden veroorzaakt door haar huidskleur, maar door een haperende internetverbinding of het dragen van een bril.

Het college benadrukt dat dit oordeel specifiek van toepassing is op het geval van Pocornie en kan niet uitsluiten dat het gebruik van Proctorio of vergelijkbare AI-software in andere situaties wel tot discriminatie zou leiden. Eerdere onderzoeken tonen aan dat gezichtsherkenningssoftware minder goed werkt bij mensen met een donkere huidskleur, iets wat ook het Racism and Technology Center in Amsterdam bevestigt. Pocornie is teleurgesteld over het oordeel van het college en benadrukt dat dit de uitdagingen laat zien bij het aanpakken van dergelijke algoritmes.

Het college oordeelt echter dat de VU de klacht van Pocornie zorgvuldiger had moeten behandelen. De studentenombudsman had haar naar de juiste instantie moeten verwijzen, waar Pocornie nu zelf veel moeite voor heeft moeten doen. Pocornie is van mening dat er een loket moet komen waar studenten terecht kunnen met dergelijke klachten, aangezien zij verwacht dat dit in de toekomst bij andere studenten nogmaals zal gebeuren.

Ondanks de uitkomst van de klacht is Pocornie ervan overtuigd dat universiteiten meer gaan nadenken over het gebruik van vergelijkbare software door de aandacht die deze zaak heeft gekregen. Ze zet zich in om ervoor te zorgen dat onderwijsinstellingen niet alleen achteraf, maar ook vooraf de vraag stellen of dergelijke software mogelijk discriminerend kan zijn.