VU-student dient klacht in over discriminerende anti-fraudesoftware

Een student van de Vrije Universiteit Amsterdam (VU) dient een klacht in bij het College voor de Rechten van de Mens. Antispieksoftware die de student moest inschakelen voor het maken van haar tentamens, herkende haar alleen indien zij met een lamp in haar gezicht scheen. De student stelt dat de VU vooraf had moeten controleren of studenten met een zwarte huidskleur even goed herkend zouden worden als studenten met een witte huidskleur.

Het gaat specifiek om Proctorio, software die door diverse Nederlandse universiteiten wordt ingezet bij tentamens die studenten vanuit huis maken. Het gaat om anti-fraudesoftware, die met behulp van algoritmes controleert of studenten geen fraude plegen. Dit doet de software door via de webcam van een computer onder meer te controleren of een student alleen is, achter de computer zit of andere apparatuur gebruikt om te frauderen bij het tentamen. Hierbij wordt gebruik gemaakt van gezichtsherkenningssoftware.

'Zware achterstand bij het afnemen van haar tentamens'

"De VU is de software blijven gebruiken nadat aangetoond werd dat deze slechter is in het herkennen van zwarte en donkere gezichten dan van witte gezichten. De student is zwart en is door Proctorio herhaaldelijk de toegang tot haar tentamens ontzegd en heeft haar tentamens alleen kunnen maken met een lamp direct in haar gezicht. Door deze directe discriminatie op basis van huidskleur heeft de VU de student op zware achterstand gezet bij het afnemen van haar tentamens. De student heeft vervolgens herhaaldelijk geprobeerd hierover een klacht in te dienen. Uiteindelijk is haar klacht afgewezen", staat in de inleiding van de klacht die is ingediend bij het College voor de Rechten van de Mens.

De student vraagt het College voor de Rechten van de Mens te oordelen dat de VU een direct onderscheid heeft gemaakt op basis van ras door het gebruik van Proctorio bij het afnemen van tentamens. Ook vraagt de student het Hof te oordelen dat de VU indirect onderscheid heeft gemaakt op basis van ras door 'geen effectieve mogelijkheid te bieden om te klagen over dit directe onderscheid op basis van ras'. Ook wil de student dat de VU publiekelijk excuses moet aanbieden voor het gebruik van de software en zich eraan verbindt nooit meer gebruik te maken van discriminerende software of technologieën en in het specifiek Proctorio. Ook wil de student dat de VU in het vervolg vooraf en gedurende de inzet van technologie of software actief moet controleren of deze niet discriminerend is.