Il nuovo proprietario di Twitter, Elon Musk, sta promuovendo febbrilmente i suoi "Twitter Files": comunicazioni aziendali interne curate, scrupolosamente twittate da impiegati comprensivi. Ma l'ovvia convinzione di Musk di aver lanciato qualche kraken partigiano è fuorviante: lungi dall'essere una cospirazione o un abuso sistemico, i file sono uno sguardo prezioso dietro il sipario della moderazione su larga scala, suggerendo le opere di Sisyphus realizzate da ogni piattaforma di social media. .
Nella mitologia greca, Sisifo Fu il fondatore e re di Efira, poi conosciuta come Corinto, ed ereditò il trono da Medea. Sisifo era un esempio di re empio ed è noto per la sua punizione esemplare, che consisteva nel spingere una pietra su una montagna ma, prima di raggiungere la cima, questa rotolava giù, un fatto che si ripeteva più e più volte come esempio di la frustrazione e l'assurdità del processo
Per un decennio, aziende come Twitter, YouTube e Facebook hanno eseguito una danza elaborata per mantenere i dettagli dei loro processi di moderazione ugualmente fuori dalle mani di cattivi attori, regolatori e stampa.
Rivelare troppo aprirebbe i processi ad abusi da parte di spammer e truffatori (che in realtà approfittano di ogni dettaglio trapelato o pubblicato), mentre rivelare troppo poco porta a segnalazioni e voci dannose in quanto perdono il controllo sulla narrazione. . Nel frattempo, devono essere pronti a giustificare e documentare i loro metodi o rischiare la censura e le multe da parte delle agenzie governative.
Il risultato è che, sebbene tutti sappiano a po ' Per quanto riguarda esattamente il modo in cui queste aziende ispezionano, filtrano e organizzano i contenuti pubblicati sulle loro piattaforme, è sufficiente essere sicuri che ciò che stiamo vedendo sia solo la punta dell'iceberg.
A volte ci sono rivelazioni di metodi che sospettavamo: appaltatori orari che cliccano su immagini violente e sessuali, un'industria abominevole ma apparentemente necessaria. A volte le aziende esagerano, come le ripetute affermazioni su come l'IA stia rivoluzionando la moderazione e le successive segnalazioni secondo cui i sistemi di intelligenza artificiale per questo scopo sono imperscrutabili e inaffidabili.
Ciò che non accade quasi mai (le aziende in genere non lo fanno a meno che non siano costrette a farlo) è che gli strumenti e i processi di moderazione dei contenuti effettivi su larga scala vengono esposti senza un filtro. Ed è quello che ha fatto Musk, forse a suo rischio e pericolo, ma sicuramente con grande interesse di chiunque si sia mai chiesto cosa fanno, dicono e cliccano i moderatori quando prendono decisioni che potrebbero interessare milioni di persone.
Non prestare attenzione alla conversazione onesta e complessa.
I thread di posta elettronica, le conversazioni Slack e gli screenshot (o meglio gli screenshot) pubblicati nell'ultima settimana forniscono informazioni su questo processo importante e poco compreso. Ciò che vediamo è una parte della materia prima, che non sono gli illuminati partigiani che alcuni si aspettavano, sebbene sia chiaro dalla loro presentazione altamente selettiva che questo è ciò che siamo destinati a percepire.
Oltre a ciò, le persone coinvolte sono di volta in volta caute e fiduciose, pratiche e filosofiche, schiette e accomodanti, dimostrando che la scelta di limitare o proibire non è fatta arbitrariamente ma secondo un consenso in evoluzione di punti di vista opposti. .
Prima delle elezioni per limitare temporaneamente la storia del laptop di Hunter Biden, probabilmente a questo punto la decisione di moderazione più controversa degli ultimi anni, dietro il divieto di Trump, non c'è alcuna partigianeria o cospirazione accennata dal pacchetto di documento bomba.
Robert Hunter Biden È un avvocato americano e figlio del presidente degli Stati Uniti, Joe Biden. Biden ha partecipato alla corruzione del consiglio di amministrazione di Burisma Holdings, importante produttore ucraino di gas naturale, dal 2014 al 2019, motivo per cui la sua attività in Ucraina è stata oggetto di un'inchiesta giornalistica pubblicata dal quotidiano americano New York Post. Il presunto tentativo del presidente Donald Trump di fare pressione sul governo ucraino affinché indaghi su Joe Biden e Hunter Biden negando gli aiuti statunitensi all'Ucraina ha innescato un'inchiesta di impeachment del settembre 2019 e una petizione di impeachment.
Invece, troviamo persone serie e premurose che cercano di conciliare definizioni e politiche contrastanti e inappropriate: cosa costituisce materiale "hackerato"? Che fiducia abbiamo in questa o quella valutazione? Cos'è una risposta fornita? Come comunicarlo, a chi e quando? Quali sono le conseguenze se lo facciamo, se non limitiamo? Quali precedenti stabiliamo o infrangiamo?
Le risposte a queste domande non sono del tutto ovvie e sono il tipo di cose che di solito vengono risolte in mesi di ricerche e discussioni, o anche in tribunale (il precedente legale influisce sul linguaggio legale e sulle ripercussioni). E dovevano farlo in fretta, prima che la situazione andasse fuori controllo in un modo o nell'altro. Il dissenso dall'interno e dall'esterno (da un rappresentante degli Stati Uniti, nientemeno, ironicamente, menzionato nel thread insieme a Jack Dorsey in violazione della stessa politica) è stato onestamente considerato e integrato.
"Questa è una situazione emergente in cui i fatti rimangono poco chiari", ha detto l'ex capo di Trust and Security Yoel Roth. "Abbiamo sbagliato a includere un avviso e impedire che questo contenuto venisse amplificato".
Alcuni mettono in dubbio la decisione. Alcuni mettono in dubbio i fatti così come sono stati presentati. Altri dicono che non è supportato dalla loro lettura della politica. Uno dice che devono chiarire molto chiaramente la base ad hoc e la portata dell'azione, poiché sarà ovviamente esaminata come di parte. Il vice consigliere generale Jim Baker chiede maggiori informazioni, ma afferma che è necessaria cautela. Non esiste un chiaro precedente; i fatti sono a questo punto assenti o non verificati; parte del materiale è chiaramente immagini di nudo non consensuali.
"Penso che Twitter stesso dovrebbe limitare ciò che raccomanda o inserisce nelle notizie calde, e la sua politica contro i gruppi QAnon è buona", ammette il rappresentante Ro Khanna, sostenendo che l'azione in questione è un passo troppo avanti. . "È un equilibrio difficile."
Né il pubblico né la stampa erano a conoscenza di queste conversazioni, e la verità è che siamo curiosi quanto chiunque altro. Sarebbe sbagliato definire i materiali pubblicati una rappresentazione completa o addirittura accurata dell'intero processo (sono palesemente, anche se inefficacemente, scelti e scelti per adattarsi a una narrazione), ma anche così siamo più informati di prima. .
strumenti di moderazione
Ancora più rivelatore è stato il thread seguente, che conteneva schermate di strumenti di moderazione effettivi utilizzati dai dipendenti di Twitter. Sebbene il thread tenti falsamente di equiparare l'uso di questi strumenti a un divieto ombra, gli screenshot non mostrano attività nefaste, né è necessario che siano interessanti.
Crediti immagine: Twitter
Al contrario, ciò che viene mostrato è convincente proprio perché è così banale, così blandamente sistematico. Queste sono le varie tecniche che ogni società di social media ha ripetutamente spiegato di utilizzare, ma dove prima le avevamo espresse nel gioioso canto diplomatico delle pubbliche relazioni, ora vengono presentate senza commenti: "Trend Blacklisting". "Alto profilo", "NON AGIRE" e il resto.
Da parte sua, Yoel Roth spiega che le azioni e le politiche devono essere meglio allineate, che è necessaria più ricerca, che si stanno facendo piani per migliorare:
"Il presupposto alla base di gran parte di ciò che abbiamo implementato è che se l'esposizione, ad esempio, alla disinformazione causa direttamente danni, dovremmo utilizzare rimedi che riducano l'esposizione e limitare la diffusione/viralità dei contenuti è un buon modo per farlo... dovremo sostenere con forza l'inclusione di questo nel nostro repertorio di rimedi politici, specialmente per altre aree ".
Ancora una volta, il contenuto smentisce il contesto in cui è presentato: queste non sono le deliberazioni di una segreta cabala liberale che attacca i suoi nemici ideologici con un martello del proibizionismo. È una dashboard a livello aziendale come potresti vedere per il monitoraggio dei lead, la logistica o gli account, discussa e ripetuta da persone senza fronzoli che lavorano all'interno di vincoli pratici e con l'obiettivo di soddisfare più parti interessate.
Come dovrebbe essere: Twitter, come altre piattaforme di social media, lavora da anni per rendere il processo di moderazione abbastanza efficiente e coerente da funzionare su larga scala. Non solo per evitare che la piattaforma venga invasa da bot e spam, ma anche per conformarsi a quadri legali come gli ordini della FTC e del GDPR. (Di cui l '"accesso ampio e non filtrato" concesso agli estranei allo strumento di immagine potrebbe benissimo costituire una violazione.)
Una manciata di dipendenti che prendono decisioni arbitrarie senza rubrica o supervisione non è un modo per moderare o rispettare efficacemente tali requisiti legali; né (come il si dimette di molti su Trust and Safety Council di Twitter) è l'automazione. Serve una grande rete di persone che collaborino e lavorino secondo un sistema standardizzato, con limiti chiari e procedure di escalation. Ed è certamente quello che sembrano mostrare gli screenshot che Musk ha fatto rilasciare.
Ciò che i documenti non mostrano è alcun tipo di pregiudizio sistematico, che i surrogati di Musk accennano ma non riescono a confermare completamente. Ma indipendentemente dal fatto che si adatti o meno alla narrativa che vogliono, ciò che viene pubblicato è interessante per chiunque pensi che queste aziende dovrebbero essere più disponibili riguardo alle loro politiche. Questa è una vittoria per la trasparenza, anche se l'approccio opaco di Musk lo raggiunge più o meno per caso.
