Ga naar Content

Mensenrechtencollege geeft VU-student gelijk: vermoeden discriminatie antispieksoftware terecht

Het College voor de Rechten van de Mens heeft een student van de Vrije Universiteit (VU) gelijkgegeven over haar klacht dat de antispieksoftware van de VU discrimineerde. De software registreerde het gezicht niet van de vrouw, zelf vermoedde ze vanwege haar donkere huidskleur. De universiteit krijgt tien weken de tijd om aan te tonen dat de software niet discrimineert. 

Foto: AT5 / Flickr - ITU Pictures

De VU gebruikte de antispieksoftware, het zogenoemde proctoring, tijdens de coronapandemie om fraude te voorkomen tijdens de online tentamens. Om toegang tot de examenvragen te krijgen moesten de studenten een aantal checks doorlopen, waaronder een 'webcamcheck'. Die check moest laten zien of de juiste student aanwezig was. Ook moest de software ervoor zorgen dat de student werd gemonitord en daardoor niet kon spieken. 

Volgens masterstudent Robin Pocornie detecteerde de software haar vaak niet. Ze kreeg dan meldingen zoals  ‘face not found’ of ‘room too dark’. Ook is zij meerdere keren tijdens een tentamen door de software de toegang tot de examenvragen ontzegd. De vrouw stapte met het vermoeden dat het door haar huidskleur ging vervolgens naar het College en in het tussenoordeel zijn ze het eens met haar. 

Reacties

"Dit gaat weliswaar om een tussenoordeel, maar het is toch een belangrijk moment in onze geschiedenis van oordelen", aldus voorzitter Jacobine Geel. "Het is een betekenisvolle eerste stap. Ongeacht wat het eindoordeel zal zijn, hoopt de voorzitter dat dit tussenoordeel een aansporing is voor iedereen om zich bij het College te melden als hij, zij of hen vermoedt dat een algoritme discrimineert."

"Ik ben heel blij dat de wet aan mijn kant staat", zegt Pocornie. "Dit soort discriminatie is moeilijk zichtbaar te maken en het College heeft dat goed begrepen. Ik kijk vol vertrouwen uit naar het definitieve oordeel. Verder ben ik benieuwd naar de reactie van al die andere universiteiten en hogescholen die deze software ook hebben gebruikt, ook zij hebben immers studenten van kleur in de collegebanken."

Hans de Zwart, Robin Pocornie en Naomi Appelman bij het College voor de Rechten van de Mens - Foto: Racism and Technology Center

Lees ook

💬 Wil je niets missen uit Amsterdam?

Tikfout gezien? Laat het ons weten via [email protected]