Nieuws

Zwarte studente dient klacht in tegen Vrije Universiteit vanwege racistische antispieksoftware

15-07-2022 11:59

Niet de student uit het verhaal. Bron: Sunshine Studio

Een zwarte studente dient een klacht in tegen de Vrije Universiteit vanwege hun antispieksoftware. Robin Pocornie moest tijdens de lockdown thuis tentamens maken. De software die haar gezicht moest controleren om te voorkomen dat ze spiekte, kon haar niet herkennen. Pas toen ze een lamp recht in haar gezicht liet schijnen, zag de software wie ze was. Ze moest dus tentamens doen met dat felle licht in haar ogen. Het programma in kwestie, Proctorio genaamd, heeft problemen met mensen met een donkere huidskleur. Pocornie stapt nu naar het College voor de Rechten van de Mens (CvdRM) met een klacht tegen de VU vanwege het gebruik van de software.

Pocornie had eerder al een klacht ingediend bij de VU zelf. Ze wilde publiekelijk excuses en de garantie dat de Proctorio-software niet meer gebruikt zou worden aan de universiteit. Ook moet andere software met soortgelijke functies voortaan gecontroleerd worden op mogelijke discriminatie. De VU zou niets van dit alles hebben gedaan, dus stapt Pocornie naar het CvdRM. In een reactie laat de VU aan de Volkskrant weten dat ze betreuren dat Pocornie stress heeft gehad. Ook gaat men een extern bureau laten kijken naar de klachtenprocedure van de universiteit.

In onderstaande video legt een onderzoeker uit dat het probleem vaker voorkomt bij gezicht herkennende software. Bij een paar bedrijven kon de software haar gezicht niet eens zien. Bij andere wel, al gaven ze haar wel het verkeerde ”gender”.