Het College voor de Rechten van de Mens heeft een student van de Vrije Universiteit (VU) gelijkgegeven over haar klacht dat de antispieksoftware van de VU discrimineerde. De software registreerde het gezicht niet van de vrouw, zelf vermoedde ze vanwege haar donkere huidskleur. De universiteit krijgt tien weken de tijd om aan te tonen dat de software niet discrimineert.
De VU gebruikte de antispieksoftware, het zogenoemde proctoring, tijdens de coronapandemie om fraude te voorkomen tijdens de online tentamens. Om toegang tot de examenvragen te krijgen moesten de studenten een aantal checks doorlopen, waaronder een 'webcamcheck'. Die check moest laten zien of de juiste student aanwezig was. Ook moest de software ervoor zorgen dat de student werd gemonitord en daardoor niet kon spieken.
Volgens masterstudent Robin Pocornie detecteerde de software haar vaak niet. Ze kreeg dan meldingen zoals ‘face not found’ of ‘room too dark’. Ook is zij meerdere keren tijdens een tentamen door de software de toegang tot de examenvragen ontzegd. De vrouw stapte met het vermoeden dat het door haar huidskleur ging vervolgens naar het College en in het tussenoordeel zijn ze het eens met haar.
Reacties
"Dit gaat weliswaar om een tussenoordeel, maar het is toch een belangrijk moment in onze geschiedenis van oordelen", aldus voorzitter Jacobine Geel. "Het is een betekenisvolle eerste stap. Ongeacht wat het eindoordeel zal zijn, hoopt de voorzitter dat dit tussenoordeel een aansporing is voor iedereen om zich bij het College te melden als hij, zij of hen vermoedt dat een algoritme discrimineert."
"Ik ben heel blij dat de wet aan mijn kant staat", zegt Pocornie. "Dit soort discriminatie is moeilijk zichtbaar te maken en het College heeft dat goed begrepen. Ik kijk vol vertrouwen uit naar het definitieve oordeel. Verder ben ik benieuwd naar de reactie van al die andere universiteiten en hogescholen die deze software ook hebben gebruikt, ook zij hebben immers studenten van kleur in de collegebanken."
💬 Wil je niets missen uit Amsterdam?
- Blijf op de hoogte via nhnieuws.nl/amsterdam
- Mail je tips naar [email protected]
- Praat mee en deel jouw nieuws in onze speciale Amsterdamse Facebookgroep!
Tikfout gezien? Laat het ons weten via [email protected]