Wat hebben Facebook, de regering van Pakistan, het Openbaar Ministerie in Amsterdam en de Duitse minister van Justitie Heiko Maas met elkaar te maken? Nogal wat, blijkt uit recente nieuwsberichten. Facebook gaat volgens de BBC de Pakistaanse regering assisteren bij het opsporen van online content die ‘godslasterlijk’ is – omdat dat in Pakistaan “als een groot probleem wordt ervaren”. Terwijl Pakistan een land is waar een beschuldiging van blasfemie kan leiden tot de doodstraf. Heiko Maas heeft een wetsvoorstel naar de Bondsdag gestuurd waarmee hij socialemedianetwerken als Facebook wil dwingen onwelgevallige content – waaronder ‘defamation of religions…in a manner that is capable of disturbing the public peace’ – te verwijderen. Mensenrechtenorganisatie Article 19 geeft aan dat dit neerkomt op een wet tegen blasfemie. En het OM in Amsterdam, zo tekende De Telegraaf op uit de mond van een enthousiaste Hoofdofficier van Justitie Theo Hofstee, pluist uitlatingen van columnisten, bloggers en sprekers uit op ‘gevoelige inhoud’ over onderwerpen als islam en racisme.
Zomaar wat actuele voorbeelden van overheden die meningen en opinies in de gaten houden, via het verzamelen van tot de persoon herleidbare data, waarbij de gevolgen uitgesproken negatief kunnen zijn voor individuen. Heiko Maas heeft voor het opsporen van onwelgevallige content meer observatiemogelijkheden tot zijn beschikking dan Stasi-chef Erich Mielke in de DDR ooit heeft gehad. De Stasi moest nog bij mensen inbreken en microfoons plaatsen om er achter te komen wat ze dachten, Maas hoeft het straks alleen aan Facebook te vragen.
Gelukkig zijn er in Duitsland nog wat kritische geluiden te horen, bijvoorbeeld van de vakbond voor journalisten. In Nederland blijft het opvallend stil. Hoe lang zal het duren voordat Facebook in Nederland Theo Hofstee gaat helpen bij het controleren van content op uitlatingen over de islam?
Ontwikkelingen als het internet of things en big data kunnen grote voordelen opleveren, maar ze kunnen ook tegen individuen werken. Bij de meeste alledaagse handelingen geef je gratis en voor niets persoonlijke gegevens prijs. Zoektermen intikken in google, nieuwsites lezen, likes geven op Facebook, tweeten. Via je smartphone is je locatiegeschiedenis te traceren, en je stemgeluid en de foto’s die je ermee maakt. Het betekent nog niet automatisch dat al deze gegevens nu al bij elkaar gebracht worden, maar de trend is onmiskenbaar. Immers, het is commercieel reuze interessant en voor overheden uiterst handig. De gouden regel is: als het technisch mogelijk is, zal het vroeg of laat in gebruik komen. In de private sector en bij overheden.
Laten we het toespitsen op het verzamelen van tot de persoon herleidbare gegevens over politieke voorkeuren. Cambridge Analytica heeft voor de presidentscampagne van Donald Trump politieke profielen van – naar eigen zeggen – 220 miljoen Amerikanen samengesteld. Via het combineren van Google zoektermen, Facebook-likes, retweets, bezochte internetpagina’s en connecties op sociale netwerken valt er van iedereen een politiek profiel te maken.
Met name Facebook-likes blijken een redelijk accurate voorspeller te zijn van politieke voorkeur en maatschappelijke standpunten. Cambridge Analytica maakte op basis hiervan politieke en psychologische profielen van individuen, iets wat bio-psycho-social profiling heet in vaktermen. Ze konden bijvoorbeeld inschatten dat individuen met hoog neurotische trekken ontvankelijker waren voor de boodschap van Trump over immigratie. Om vervolgens op die individuen gerichte microtargeting los te laten, in de vorm van boodschappen via Facebook en Twitter.
Cambridge Analytica – voortkomend uit moederbedrijf SCL dat gespecialiseerd is in psychologische oorlogsvoering – hielp in het verleden al dictatoriale regimes in Afrika zoveel mogelijk gegevens over onderdanen te verzamelen. Maar niet alleen dictaturen doen dat. We weten dat de Amerikaanse inlichtingendienst NSA (vele malen groter dan de CIA) smartphones traceert en hackt, camera’s van mobiele apparaten op afstand inschakelt, bezig is versleutelde berichtenservices als Signal te hacken en zich helemaal niets aantrekt van grenzen en lokale wetgeving. Sterker nog, de technieken die Cambridge Analytica gebruikt zijn grotendeels voor de Amerikaanse inlichtingendienst NSA ontwikkeld. En moederbedrijf SCL werkt al jaren voor de Amerikaanse overheid en de NAVO.
Ook in een democratie is de verleiding voor de overheid groot om hun inlichtingendiensten te vragen mensen op politieke voorkeur te gaan registreren. Zowel onder het bewind van progressieve als conservatieve regeringen. Bijvoorbeeld onder het mom van het bestrijden van extremisme. ‘Persoon X met BSN nummer Y zit politiek in de hoek van partij Z en is neurotisch over immigratie’. Dat komt gevaarlijk dicht bij het afschaffen van één van de peilers van de democratie – het stemgeheim. En hoe lang voordat een sollicitatieprocedure in de publieke sector een (volautomatische, dus niet tijdrovende) controle op politieke voorkeur en standpunten omvat?
Internet beloofde vrijheid en empowerment te brengen, maar het internet blijkt ook eenvoudig ‘to police’. Theo Hofstee hoeft over niet al te lange tijd geen columns, opiniebijdragen en blogs na te pluizen, dat doet straks een algoritme wel voor hem. Krijgt een blogger of opiniemaker straks direct na online plaatsing een automatisch gegenereerde waarschuwing van het OM? Data trekken zich bovendien niets aan van grenzen. Nederlands-Turkse en Duits-Turkse journalisten gingen in Turkije al de gevangenis in nadat er over hen was geklikt vanuit de Turkse gemeenschap in Nederland. Met medewerking van Facebook of Cambridge Analytica kan dat binnenkort ook volledig digitaal.
De Amerikaanse Shoshanna Zuboff noemt de samenwerking van overheid en grote technologiebedrijven als Google en Facebook al het military-informational complex en de snel groeiende capaciteit tot online monitoren weapons of mass detection. Sinds 9/11 dwingen geheime FISA-courts in de VS service providers simpelweg tot het afstaan van meta-data over iedereen. Veiligheidsspecialist Bruce Schneier wijst erop dat service providers in de VS binnenkort de browsegeschiedenis van klanten mogen opslaan en doorverkopen.
Schneier noemt nog een risico van de dataexplosie: het blinde geloof in de juistheid en de waarde van al die data. Terwijl bij databases geldt: garbage in, garbage out. Registratiefouten blijven vaak eeuwig in gekoppelde databases rondzwerven. De voorspellende waarde van algoritmes en analysetools is bovendien beperkt. Voor je het weet staan individuen op basis van irrelevante correlaties en verbanden geregistreerd als bezitters van ongewenste meningen of gevaarlijke opinies. Of erger.
Het gebruik van encryptie, VPN software of anonieme accounts kan tijdelijk uitkomst bieden, maar het is een wedloop met de NSA (die nauw samenwerkt met onder andere de Duitse BND en de Nederlandse AIVD) die permanent bezig is dergelijke tools onschadelijk te maken of te hacken. Niemand kan er van uit gaan dat posts, zoektermen, emails en whats-apps echt privé zijn. Permanente surveillance genereert volgens Zuboff op den duur volgzaam gedrag. Als ’slimme’ beveiligingscamera’s op vliegvelden en treinstations gaan letten op boze gezichtsuitdrukkingen zul je uit angst voor ‘face crimes‘ permanent je gezicht in de plooi gaan houden. Als berichten die je via Gmail of Whatsapp verstuurt niet meer privé zijn ga je vanzelf je ware mening verbergen uit angst voor ‘thought crimes’.
Als we dit doordenken: om weapons of mass detection te omzeilen zullen mensen in de toekomst de ‘juiste meningen’ gaan liken en de ’juiste content’ online gaan aanklikken. Zoals in de Sovjet-Unie het lezen van de Pravda een vorm van zelfbescherming was. In alle beslotenheid en alleen wanneer het anoniem kan zal men dan nog zijn eigen mening geven en dissidente content lezen. We moeten niet raar opkijken als mensen in de nabije toekomst overgaan op Samizdat – clandestiene anonieme zelfpublicatie. Liefst op ouderwets papier, want dat valt niet te hacken.
Het is de paradox van de censuur: als iedereen zijn opinies geheim houdt weet de staat ook niet meer wat zijn onderdanen echt vinden.
