(Bloomberg) -Wetgevers, fact–checking organisaties en sommige techbedrijven werken aan de bestrijding van de dreiging van een nieuwe golf van door AI gegenereerde desinformatie online. Maar experts zeggen dat deze inspanningen worden ondermijnd door het wantrouwen van het publiek in instellingen en een algemeen gebrek aan kennis over het herkennen van valse afbeeldingen, video’s en audioclips online.
“Sociale media en mensen hebben het zo gemaakt dat zelfs als we feiten controleren en zeggen: ‘Nee, dit is nep’, mensen zeggen: ‘Het kan me niet schelen wat je zegt, dit is in overeenstemming met mijn wereldbeeld'”, zegt Hany Farid, een expert in deepfake-analyse en een professor aan de Universiteit van Californië, Berkeley.
“Waarom leven we in een wereld waarin de realiteit zo moeilijk te vatten lijkt?” zei hij. “Dat komt omdat onze politici, onze media en het internet het wantrouwen hebben aangewakkerd.”
Experts waarschuwen al jaren voor het potentieel van kunstmatige intelligentie om de verspreiding van desinformatie te versnellen. De druk om er iets aan te doen is dit jaar echter aanzienlijk toegenomen na de introductie van een nieuwe generatie krachtige generatieve AI-tools die het goedkoop en eenvoudig maken om visuals en tekst te produceren.
In de VS wordt gevreesd dat door AI gegenereerde desinformatie de Amerikaanse presidentsverkiezingen van 2024 zou kunnen beïnvloeden.
Ondertussen zijn in Europa de grootste sociale mediaplatforms volgens een nieuwe wet verplicht om de verspreiding van desinformatie op hun platformen tegen te gaan.
Tot nu toe blijft het bereik en de invloed van door AI gegenereerde desinformatie onduidelijk, maar er is reden tot zorg.
Bloomberg meldde vorige week dat misleidende AI-gegenereerde deepfake stemmen van politici online werden verspreid enkele dagen voor een nipt betwiste stemming in Slowakije. Sommige politici in de VS en Duitsland hebben ook door AI gegenereerde beelden gedeeld.
Rumman Chowdhury, een fellow aan het Berkman Klein Center for Internet & Society aan Harvard University en eerder een directeur bij X is het ermee eens dat menselijke feilbaarheid een deel van het probleem is bij het bestrijden van desinformatie.
“Je kunt bots hebben, je kunt kwaadwillende actoren hebben,” zei ze, “maar eigenlijk wordt een heel groot deel van de online informatie die nep is, vaak gedeeld door mensen die niet beter weten.”
Chowdhury zei dat internetgebruikers over het algemeen beter zijn in het herkennen van valse tekstberichten dankzij jaren van confrontatie met verdachte e-mails en berichten op sociale media.
Maar nu AI steeds realistischere nepafbeeldingen, -audio en -video’s mogelijk maakt, “is er een niveau van educatie dat mensen nodig hebben”.
“Als we een video zien die er echt uitziet – bijvoorbeeld een bom die het Pentagon raakt – zullen de meesten van ons het geloven,” zei ze. “Als we een bericht zouden zien waarin iemand zegt: ‘Hé, er is net een bom ingeslagen in het Pentagon’, dan zullen we daar eerder sceptisch over zijn omdat we meer getraind zijn op tekst dan op video en afbeeldingen.”
