28 september (Reuters) – Enkele grote adverteerders waaronder Dyson, Mazda en chemiebedrijf Ecolab hebben hun marketingcampagnes opgeschort of hun advertenties verwijderd uit delen van Twitter omdat hun promoties verschijnen naast tweets waarin wordt gevraagd om kinderporno, aldus de bedrijven aan Reuters.
Advertenties voor ten minste 30 merken, variërend van Walt Disney Co, Comcast Corp’s NBCUniversal en Coca-Cola Co. tot een kinderziekenhuis, zijn verschenen op de profielpagina’s van Twitter-accounts die links naar het uitbuitende materiaal aanbieden, volgens een onderzoek van Reuters van accounts die zijn geïdentificeerd in nieuw onderzoek over online seksueel misbruik van kinderen door cyberbeveiligingsgroep Ghost Data.
Sommige tweets bevatten sleutelwoorden als “verkrachting” en “tieners” en verschenen naast gepromote tweets van bedrijfsadverteerders, zo bleek uit het onderzoek van Reuters. In één voorbeeld verscheen een gepromote tweet voor schoenen- en accessoiremerk Cole Haan naast een tweet waarin een gebruiker zei dat hij “tiener/kind” inhoud verhandelde.
“We zijn ontzet,” vertelde David Maddocks, brand president bij Cole Haan, aan Reuters nadat hij op de hoogte was gebracht dat de advertenties van het bedrijf naast dergelijke tweets verschenen. “Ofwel gaat Twitter dit oplossen, ofwel lossen we het op met alle mogelijke middelen, waaronder het niet kopen van Twitter-advertenties.”
In een ander voorbeeld tweette een gebruiker op zoek naar inhoud van “Yung girls ONLY, NO Boys,” die onmiddellijk werd gevolgd door een gepromote tweet voor het in Texas gevestigde Scottish Rite Children’s Hospital. Scottish Rite reageerde niet op meerdere verzoeken om commentaar.
In een verklaring zei Twitter-woordvoerder Celeste Carswell dat het bedrijf “zero tolerance heeft voor seksuele uitbuiting van kinderen” en meer middelen investeert in kinderveiligheid, waaronder het aannemen van nieuwe functies om beleid te schrijven en oplossingen te implementeren.
Ze voegde eraan toe dat Twitter nauw samenwerkt met zijn reclameklanten en partners om de situatie te onderzoeken en maatregelen te nemen om herhaling te voorkomen.
De uitdagingen van Twitter bij het identificeren van kindermisbruikcontent werden eind augustus voor het eerst gemeld in een onderzoek door technieuwssite The Verge. De opkomende pushback van adverteerders die cruciaal zijn voor de inkomstenstroom van Twitter wordt hier door Reuters voor het eerst gemeld.
Zoals alle sociale mediaplatforms verbiedt Twitter afbeeldingen van seksuele uitbuiting van kinderen, die in de meeste landen illegaal zijn. Maar het laat inhoud voor volwassenen in het algemeen toe en is de thuisbasis van een bloeiende uitwisseling van pornografisch beeldmateriaal, dat ongeveer 13% van alle inhoud op Twitter omvat, volgens een intern bedrijfsdocument dat door Reuters is ingezien.
Twitter weigerde commentaar te geven op het volume van de inhoud voor volwassenen op het platform.
Ghost Data identificeerde de meer dan 500 accounts die over een periode van 20 dagen deze maand openlijk kinderpornomateriaal deelden of opvroegen. Twitter slaagde er niet in meer dan 70% van de accounts tijdens de onderzoeksperiode te verwijderen, aldus de groep, die de bevindingen exclusief deelde met Reuters. Reuters kon de juistheid van de bevindingen van Ghost Data niet onafhankelijk bevestigen.
Nadat Reuters een steekproef van 20 accounts met Twitter had gedeeld, verwijderde het bedrijf ongeveer 300 extra accounts van het netwerk, maar meer dan 100 andere bleven de volgende dag nog steeds op de site, volgens Ghost Data en een onderzoek van Reuters.
Reuters deelde vervolgens de volledige lijst van meer dan 500 accounts nadat deze was verstrekt door Ghost Data, die Twitter beoordeelde en permanent schorste wegens overtreding van zijn regels, zei Twitter’s Carswell.
Andrea Stroppa, de oprichter van Ghost Data, zei dat het onderzoek een poging was om het vermogen van Twitter te beoordelen om het materiaal te verwijderen. Hij zei dat hij persoonlijk het onderzoek financierde nadat hij een tip over het onderwerp had ontvangen.
Twitter heeft vorig jaar meer dan 1 miljoen accounts geschorst wegens kinderuitbuitingsmateriaal, volgens de transparantieverslagen van het bedrijf.
“Er is geen plaats voor dit soort inhoud online,” zei een woordvoerder van autofabrikant Mazda USA in een verklaring aan Reuters, eraan toevoegend dat het bedrijf in reactie daarop zijn advertenties nu verbiedt te verschijnen op profielpagina’s van Twitter.
Een woordvoerder van Disney noemde de inhoud “verwerpelijk” en zei dat ze “onze inspanningen verdubbelen om ervoor te zorgen dat de digitale platforms waarop we adverteren, en de media inkopers die we gebruiken, hun inspanningen versterken om te voorkomen dat dergelijke fouten zich herhalen.”
Een woordvoerder van Coca-Cola, dat een gepromote tweet liet verschijnen op een account dat door de onderzoekers werd gevolgd, zei dat het niet toestond dat het materiaal met zijn merk werd geassocieerd en zei dat “elke inbreuk op deze normen onaanvaardbaar is en zeer ernstig wordt genomen.”
NBCUniversal zei dat het Twitter heeft gevraagd de advertenties te verwijderen die met de ongepaste inhoud in verband worden gebracht.
Twitter is niet de enige die worstelt met falende moderatie in verband met de online veiligheid van kinderen. Voorstanders van kinderwelzijn zeggen dat het aantal bekende beelden van seksueel misbruik van kinderen de afgelopen jaren is gestegen van duizenden naar tientallen miljoenen, omdat roofdieren sociale netwerken zoals Facebook en Instagram van Meta hebben gebruikt om slachtoffers te lokken en expliciete beelden uit te wisselen.
Voor de door Ghost Data geïdentificeerde accounts geldt dat bijna alle handelaren van kinderpornomateriaal het materiaal op de markt brachten op Twitter en vervolgens kopers instrueerden om hen te bereiken op berichtendiensten zoals Discord en Telegram om de betaling te voltooien en de bestanden te ontvangen, die werden opgeslagen op hostingplatforms zoals het in Nieuw-Zeeland gevestigde Mega en het in de VS gevestigde Dropbox, volgens het rapport van de groep.
Een woordvoerder van Discord zei dat het bedrijf één server en één gebruiker had verbannen wegens het overtreden van de regels tegen het delen van links of inhoud die kinderen seksueel misbruiken.
Mega zei dat een link waarnaar wordt verwezen in het Ghost Data-rapport begin augustus werd gemaakt en kort daarna werd verwijderd door de gebruiker, die het weigerde te identificeren. Mega zei dat het de account van de gebruiker twee dagen later permanent sloot.
Dropbox en Telegram zeiden dat ze een verscheidenheid aan tools gebruiken om inhoud te modereren, maar gaven geen extra details over hoe ze zouden reageren op het rapport.
Toch vormt de reactie van adverteerders een risico voor het bedrijf van Twitter, dat meer dan 90% van zijn inkomsten haalt uit de verkoop van digitale reclameplaatsingen aan merken die producten willen verkopen aan de 237 miljoen dagelijks actieve gebruikers van de dienst.
Twitter vecht ook in de rechtszaal tegen Tesla CEO en miljardair Elon Musk, die zich probeert terug te trekken uit een deal van 44 miljard dollar om het sociale media bedrijf te kopen over klachten over de prevalentie van spam accounts en de impact daarvan op het bedrijf.
Een team van Twitter-medewerkers concludeerde in een rapport van februari 2021 dat het bedrijf meer investeringen nodig had om kinderuitbuitingsmateriaal op grote schaal te identificeren en te verwijderen, waarbij werd opgemerkt dat het bedrijf een achterstand had in het beoordelen van gevallen voor mogelijke rapportage aan de rechtshandhaving.
“Terwijl de hoeveelheid (seksueel kindermisbruikmateriaal) exponentieel is gegroeid, is de investering van Twitter in technologieën om de groei te detecteren en te beheren dat niet,” aldus het rapport, dat werd opgesteld door een intern team om een overzicht te geven over de staat van kindermisbruikmateriaal op Twitter en juridisch advies te krijgen over de voorgestelde strategieën.
“Recente rapporten over Twitter bieden een verouderde, tijdgebonden blik op slechts één aspect van ons werk in deze ruimte, en is geen accurate weergave van waar we nu staan”, aldus Carswell.
De smokkelaars gebruiken vaak codewoorden zoals “cp” voor ‘child pornography‘ (‘kinderporno’) en zijn “opzettelijk zo vaag mogelijk” om detectie te vermijden, aldus de interne documenten. Hoe strenger Twitter optreedt tegen bepaalde trefwoorden, hoe meer gebruikers worden aangezet tot het gebruik van versluierde tekst, die “moeilijker te automatiseren is voor Twitter”, aldus de documenten.
Stroppa van Ghost Data zei dat dergelijke trucs de jacht op het materiaal zouden bemoeilijken, maar merkte op dat zijn kleine team van vijf onderzoekers zonder toegang tot de interne middelen van Twitter in staat was om binnen 20 dagen honderden accounts te vinden.
Twitter reageerde niet op een verzoek om verder commentaar.
