2 december (Reuters) – Twitter van Elon Musk leunt zwaar op automatisering om inhoud te modereren, waarbij bepaalde handmatige beoordelingen worden afgeschaft en de voorkeur wordt gegeven aan beperkingen op de distributie in plaats van aan het volledig verwijderen van bepaalde uitingen, aldus het nieuwe hoofd voor vertrouwen en veiligheid tegen Reuters.
Twitter beperkt ook agressiever misbruikgevoelige hashtags en zoekresultaten op gebieden als kinderuitbuiting, ongeacht de mogelijke gevolgen voor ‘goedaardig gebruik’ van die termen, zei Twitter Vice President of Trust and Safety Product Ella Irwin.
“Het grootste dat veranderd is, is dat het team de volledige bevoegdheid heeft om snel te handelen en zo agressief mogelijk te zijn”, zei Irwin donderdag, in het eerste interview dat een Twitter-leidinggevende heeft gegeven sinds Musks overname van het sociale mediabedrijf eind oktober.
Haar opmerkingen komen op een moment dat onderzoekers een toename van haatdragende taal op de sociale mediadienst melden, nadat Musk een amnestie had aangekondigd voor accounts die onder de vorige leiding van het bedrijf waren geschorst, maar die de wet niet hadden overtreden of zich schuldig hadden gemaakt aan “flagrante spam“.
Het bedrijf kreeg te maken met scherpe vragen over zijn vermogen en bereidheid om schadelijke en illegale inhoud te modereren sinds Musk de helft van het personeel van Twitter inkromp en een ultimatum stelde om lange werkdagen te maken, waardoor nog eens honderden werknemers verloren gingen.
En adverteerders, de belangrijkste inkomstenbron van Twitter, zijn het platform ontvlucht uit bezorgdheid over de veiligheid van merken.
Op vrijdag beloofde Musk in een ontmoeting met de Franse president Emmanuel Macron “aanzienlijke versterking van de inhoudsmatiging en bescherming van de vrijheid van meningsuiting“.
Irwin zei dat Musk het team aanmoedigde om zich minder zorgen te maken over hoe hun acties de gebruikersgroei of inkomsten zouden beïnvloeden, en zei dat veiligheid de topprioriteit van het bedrijf was. “Hij benadrukt dat elke dag, meerdere keren per dag,” zei ze.
Artikel gaat verder na tweet.
1. Thread: THE TWITTER FILES
— Matt Taibbi (@mtaibbi) December 2, 2022
De benadering van veiligheid die Irwin beschreef, weerspiegelt ten minste gedeeltelijk een versnelling van veranderingen die al sinds vorig jaar werden gepland rond Twitter’s behandeling van hatelijk gedrag en andere beleidsschendingen, volgens voormalige werknemers die bekend zijn met dat werk.
Eén benadering, gevat in de mantra ‘freedom of speech, not freedom of reach‘, houdt in dat bepaalde tweets die het beleid van het bedrijf schenden blijven staan, maar niet meer verschijnen op plaatsen zoals de home timeline en search.
Twitter maakt al langer gebruik van dergelijke ‘zichtbaarheidsfilters’ rond desinformatie en had ze al vóór de overname door Musk opgenomen in zijn officiële beleid inzake haatdragend gedrag. De aanpak maakt een vrijere meningsuiting mogelijk, terwijl de potentiële schade van virale beledigende inhoud wordt beperkt.
Het aantal tweets met haatdragende inhoud op Twitter steeg sterk in de week voordat Musk op 23 november tweette dat impressies, of weergaven, van haatdragende uitingen afnamen, volgens het Center for Countering Digital Hate – een voorbeeld van onderzoekers die wijzen op de prevalentie van dergelijke inhoud, terwijl Musk een vermindering van de zichtbaarheid aanprijst.
Tweets met anti-zwarte woorden waren die week drie keer zo talrijk als in de maand voordat Musk het roer overnam, terwijl tweets met een homo-uitspraak met 31% stegen, aldus de onderzoekers.
Irwin, die in juni bij het bedrijf kwam en eerder veiligheidsfuncties bekleedde bij andere bedrijven, waaronder Amazon.com en Google, keerde zich tegen suggesties dat Twitter niet de middelen of bereidheid had om het platform te beschermen.
Ze zei dat de ontslagen geen significante gevolgen hadden voor voltijdse werknemers of contractanten die werken aan wat het bedrijf zijn ‘Health‘ divisies noemde, inclusief in ‘kritieke gebieden’ zoals kinderveiligheid en content moderatie.
Twee bronnen die bekend zijn met de bezuinigingen zeiden dat meer dan 50% van de Health engineering unit is ontslagen. Irwin reageerde niet onmiddellijk op een verzoek om commentaar op de bewering, maar ontkende eerder dat het Health team zwaar getroffen werd door ontslagen.
Ze voegde eraan toe dat het aantal mensen dat werkt aan kinderveiligheid niet was veranderd sinds de overname, en dat de productmanager voor het team er nog steeds was. Irwin zei dat Twitter een aantal posities heeft ingevuld voor mensen die het bedrijf hebben verlaten, hoewel ze weigerde specifieke cijfers te geven over de omvang van het verloop.
Ze zei dat Musk zich richt op meer automatisering, met het argument dat het bedrijf zich in het verleden had vergist in het gebruik van tijd- en arbeidsintensieve menselijke beoordelingen van schadelijke inhoud.
“Hij heeft het team aangemoedigd om meer risico’s te nemen, snel te handelen, het platform veilig te maken,” zei ze.
Wat betreft de veiligheid van kinderen, bijvoorbeeld, zei Irwin dat Twitter is overgestapt op het automatisch verwijderen van tweets die zijn gemeld door betrouwbare figuren met een staat van dienst in het nauwkeurig signaleren van schadelijke berichten.
Carolina Christofoletti, een onderzoeker bij TRM Labs die gespecialiseerd is in materiaal over seksueel misbruik van kinderen, zei dat ze onlangs heeft gemerkt dat Twitter sommige inhoud al binnen 30 seconden na haar melding verwijdert, zonder de ontvangst van haar melding of de bevestiging van haar beslissing te bevestigen.
In het interview van donderdag zei Irwin dat Twitter in samenwerking met de cyberbeveiligingsgroep Ghost Data ongeveer 44.000 accounts neerhaalde die betrokken waren bij schendingen van de kinderveiligheid.
Twitter beperkt ook hashtags en zoekresultaten die vaak worden geassocieerd met misbruik, zoals die voor het opzoeken van tienerporno. Bezorgdheid over de gevolgen van dergelijke beperkingen voor het toegestane gebruik van de termen is verdwenen, zei ze.
Het gebruik van “vertrouwde verslaggevers” was “iets wat we in het verleden bij Twitter hebben besproken, maar er was enige aarzeling en eerlijk gezegd gewoon wat vertraging,” zei Irwin.
“Ik denk dat we nu de mogelijkheid hebben om met dat soort dingen verder te gaan,” zei ze.
