Roermond wordt al jaren geplaagd door bendes zakkenrollers. Daarom startte de politie in deze gemeente enige tijd terug het project Sensing. Hierbij worden verdachte personen door middel van computeralgoritmes gevonden en gevolgd.
Een zakkenroller loopt nu eenmaal anders rond in een winkelcentrum dan een shopper op zoek naar kortingen. Koppel dat typische loopgedrag aan een geparkeerde auto met een Roemeens nummerbord en de kans is aanwezig dat het om dieven gaat. Dat de nood hoog is in Roermond blijkt ook wel uit de reactie van burgemeester Rianne Donders destijds aan Trouw vlak voor de start van het project.
“We willen niet het imago hebben dat je hier nog meer dan in de Efteling heel goed op je spullen moet passen. Het zou mooi zijn als de techniek ervoor kan zorgen dat de groeiende groep zakkenrollers wordt tegengehouden. En dat de politie zich op andere zaken kan richten.”
In datzelfde stuk beweert Marius Monen, programmamanager Data Science op de TU, bovendien dat het systeem weliswaar veel gegevens opslurpt, maar de privacy van mensen in takt laat.
“Wij zijn ook niet geïnteresseerd in het gedrag van specifieke bezoekers, maar alleen in de patronen binnen grote groepen. Pas als we die kennen, kan de politie inzoomen op bepaalde individuen: dieven.”
Amnesty ziet deze situatie duidelijk anders en waarschuwt voor 1984-achtige taferelen. Het project is in hun ogen dan ook een gevaarlijke schending van privacy en mensenrechten. Ook zijn computer-algoritmes volgens de mensenrechtenactivisten discriminerend richting Oost-Europeanen.
“Volgens de Nederlandse politie is het systeem neutraal en gebaseerd op objectieve criminaliteitscijfers. Dit klopt echter niet: vooroordelen en stereotypen beïnvloeden de modellen en algoritmes. En dat leidt tot discriminerende uitkomsten met hogere risicoscores voor bepaalde maatschappelijke bevolkingsgroepen, zoals in dit geval mensen uit Oost-Europa.”
Dat vrijwel alle zakkenrollers in Limburg ook daadwerkelijk uit Oost-Europa komen zegt Amnesty er dan weer niet bij. De gemeente Roermond laat weten zich pas in de discussie te willen mengen zodra ze alle gegevens hebben. Algoritmisch gezien een erg voorspelbare reactie.
