Er wordt al redelijk wat afgescand op het internet. Het automatisch doorlichten van conversaties is al wijder verspreid dan sommigen denken, hoe denkt u anders dat er relevante advertenties naast uw email getoond kunnen worden? Nu kun je een dergelijke manier van scannen en verwerken nog wel relatief onschuldig noemen. Helemaal zeker weet je het niet, maar het lijkt er toch op dat een bedrijf als Google de inhoud van je mails niet echt op een menselijke wijze interpreteert en alleen on the fly afzoekt naar relevante woorden. Toch heeft het voor een bepaald soort mindset gezorgd waarin we er min of meer vanuit gaan dat onze berichten niet geheel onopgemerkt door de systemen stromen. Ergens in het systeem gaan onze berichten lang een scanner, die er dan ‘iets’ mee doet. Tijd voor de volgende stap: scans gebruiken om deviant gedrag uit te filteren.
Facebook en de OPTA
Het scannen op deviant gedrag valt grofweg uiteen in twee varianten: intern en extern scannen. Intern is natuurlijk voor organisaties die zelf een eigen netwerk onderhouden, extern zul je doorgaans bij controlerende instanties tegenkomen. Van Facebook is inmiddels bekend geworden dat ze aan ‘intern scannen’ doen, ze monitoren privéberichten op ‘verdachte gesprekken’. Het betreft hier uiteraard ook geen team aan medewerkers dat al uw berichten doorneemt, maar een computersysteem dat bekijkt of er mogelijk verdachte seksconversaties tussen zitten. Duidelijk een gevalletje four horsemen dus: kinderlokkers wil iedereen toch wel helpen oppakken? Het systeem staat volgens Facebook en opsporingsambtenaren nog redelijk ‘soft’ ingesteld, maar men geeft al direct een voorbeeld van hoe het in de praktijk ook al succesvol is gebleken. Er is dus geen weg meer terug: pedofiel opgepakt, dus dan moet het wel een superhandig systeem zijn. Hoe je het ook wil bekijken, feit blijft dat het scannen van onze conversaties inmiddels is binnengeslopen als de facto standaardpraktijk.
Ook de OPTA doet aan scannen, al besteden zij dat uit aan een stagiair. Met de ‘Cookiemonitor’ doen zij als controlerende instantie aan extern scannen, niet naar conversaties op zich, maar naar de context van de informatiestromen. Bent u een Nederlandse dienst, zet u cookies, maar meldt u dat niet eerst? Dan bent u in overtreding. Scannen op zoek naar overtreders “gaat dus nog wel eens heel groot worden”. De OPTA-zaak is nog een heel stuk toegankelijker dan de Facebook ‘case’: er worden geen privégesprekken gescand, alleen automatisch gekeken of een site op de juiste manier te werk gaat.
De toon is echter wel gezet en we zullen in de komende jaren nog veel meer ‘bots’ gaan zien die autonoom op zoek gaan naar overtreders. Allereerst zal dat waarschijnlijk niet los kunnen staan van het goede ouderwetse detectivewerk, maar dat zal ook niet altijd zo blijven. “Hoe ver willen we gaan”, is dan de vraag, een maatschappij waarin je uiteindelijk door een automatisch systeem terecht wordt gewezen klinkt heel eerlijk, maar ook enigszins dystopisch.
Verantwoordelijkheid
In het geval van het interne scannen, het volgen van conversaties, is er nog iets anders aan de hand. Normaal gesproken kunnen de Facebooks van deze wereld de handen in onschuld wassen. Als je niets scant, kun je ook niet weten dat er iemand iets doet wat niet mag. Nu Facebook er voor heeft gekozen wél actief conversaties onder het licht te houden komt de vraag op of ze dan niet een bepaalde verantwoordelijkheid op zich nemen. Dat kan nog best eens lastig worden voor het netwerk, en ook voor u, want wie zegt dat ze nu niet ineens worden aangesproken op andere gesprekken? Misschien kunt u het straks wel beter niet meer over downloaden hebben, Facebook heeft de technologie in huis, dus ze kunnen nu niet meer een “Wir haben es nicht gewusst” claimen. Deviant gedrag scannen is here to stay, waar zal het eindigen?
CC-Foto: ‘Twentyfour Students‘
