O novo proprietário do Twitter, Elon Musk, está promovendo febrilmente seus “Arquivos do Twitter”: comunicações internas da empresa com curadoria, meticulosamente tuitadas por funcionários simpáticos. Mas a convicção óbvia de Musk de que ele lançou algum kraken partidário é equivocada: longe de ser uma conspiração ou abuso sistêmico, os arquivos são um vislumbre valioso por trás da cortina da moderação em larga escala, sugerindo as obras de Sísifo feitas por cada plataforma de mídia social. .
Na mitologia grega, sísifo Ele foi o fundador e rei de Ephyra, mais tarde conhecida como Corinto, e herdou o trono de Medea. Sísifo foi um exemplo de rei ímpio e é conhecido por seu castigo exemplar, que era empurrar uma pedra montanha acima mas, antes de chegar ao topo, ela rolou de volta para baixo, fato que se repetiu várias vezes como exemplo de a frustração e o absurdo do processo
Por uma década, empresas como Twitter, YouTube e Facebook realizaram uma dança elaborada para manter os detalhes de seus processos de moderação igualmente fora do alcance de maus atores, reguladores e da imprensa.
Revelar demais abriria processos para abuso por spammers e golpistas (que na verdade tiram proveito de cada detalhe vazado ou publicado), enquanto revelar muito pouco leva a relatórios e rumores prejudiciais à medida que eles perdem o controle sobre a narrativa. Nesse ínterim, eles devem estar prontos para justificar e documentar seus métodos ou arriscar censura e multas de agências governamentais.
O resultado é que, embora todos conheçam um bocado Sobre como exatamente essas empresas inspecionam, filtram e organizam o conteúdo postado em suas plataformas, basta ter certeza de que o que estamos vendo é apenas a ponta do iceberg.
Às vezes, há revelações de métodos que suspeitávamos: empreiteiros de hora em hora clicando em imagens violentas e sexuais, uma indústria abominável, mas aparentemente necessária. Às vezes, as empresas exageram, como reivindicações repetidas de como a IA está revolucionando a moderação e relatórios subsequentes de que os sistemas de IA para esse fim são inescrutáveis e não confiáveis.
O que quase nunca acontece (em geral, as empresas não fazem isso, a menos que sejam forçadas a fazê-lo) é que as ferramentas e os processos reais de moderação de conteúdo em escala são expostos sem filtro. E foi isso que Musk fez, talvez para seu próprio risco, mas certamente para o grande interesse de qualquer um que já se perguntou o que os moderadores fazem, dizem e clicam ao tomar decisões que podem afetar milhões.
Não preste atenção à conversa honesta e complexa.
Os tópicos de e-mail, conversas do Slack e capturas de tela (ou melhor, capturas de tela) postadas na semana passada fornecem informações sobre esse processo importante e pouco compreendido. O que vemos é parte da matéria-prima, que não é o illuminati partidário que alguns esperavam, embora seja claro por sua apresentação altamente seletiva que é isso que devemos perceber.
Além disso, as pessoas envolvidas são cautelosas e confiantes, práticas e filosóficas, francas e complacentes, demonstrando que a escolha de limitar ou proibir não é feita arbitrariamente, mas de acordo com um consenso em evolução de pontos de vista opostos.
Antes da eleição para restringir temporariamente a história do laptop Hunter Biden, provavelmente neste ponto a decisão de moderação mais controversa dos últimos anos, por trás da proibição de Trump, não há partidarismo ou conspiração sugerida pelo pacote de bomba de documento.
Robert Hunter Biden Ele é um advogado americano e filho do presidente dos Estados Unidos, Joe Biden. Biden fez parte da corrupção da diretoria da Burisma Holdings, uma importante produtora ucraniana de gás natural, de 2014 a 2019, razão pela qual seus negócios na Ucrânia foram alvo de uma investigação jornalística publicada pelo jornal americano New York Post. A suposta tentativa do presidente Donald Trump de pressionar o governo ucraniano a investigar Joe Biden e Hunter Biden, retendo a ajuda dos EUA à Ucrânia, desencadeou um inquérito de impeachment e uma petição de impeachment em setembro de 2019.
Em vez disso, encontramos pessoas sérias e ponderadas tentando conciliar definições e políticas conflitantes e inadequadas: O que constitui material "hackeado"? Que confiança temos nesta ou naquela avaliação? O que é uma resposta fornecida? Como devemos comunicá-lo, a quem e quando? Quais são as consequências se o fizermos, se não limitarmos? Que precedentes estabelecemos ou quebramos?
As respostas a essas perguntas não são totalmente óbvias e são o tipo de coisa que geralmente é resolvida ao longo de meses de pesquisa e discussão, ou mesmo no tribunal (o precedente legal afeta a linguagem jurídica e as repercussões). E eles tinham que fazer isso rápido, antes que a situação saísse do controle de uma forma ou de outra. A dissidência de dentro e de fora (de um representante dos EUA, nada menos, ironicamente, mencionado no tópico junto com Jack Dorsey em violação da mesma política) foi honestamente considerada e integrada.
“Esta é uma situação emergente em que os fatos permanecem obscuros”, disse o ex-chefe da Trust and Security, Yoel Roth. "Erramos ao incluir um aviso e impedir que esse conteúdo fosse amplificado."
Alguns questionam a decisão. Alguns questionam os fatos como foram apresentados. Outros dizem que não é apoiado por sua leitura da política. Um deles diz que eles precisam deixar bem claros os fundamentos ad hoc e o alcance da ação, pois obviamente ela será escrutinada como partidária. O vice-conselheiro geral Jim Baker pede mais informações, mas diz que é necessário cautela. Não há nenhum precedente claro; os fatos estão neste ponto ausentes ou não verificados; parte do material é claramente imagens de nudez não consensuais.
“Acho que o próprio Twitter deveria restringir o que recomenda ou coloca em hot news, e sua política contra grupos QAnon é boa”, admite o representante Ro Khanna, argumentando que a ação em questão é um passo longe demais. "É um equilíbrio difícil."
Nem o público nem a imprensa têm conhecimento destas conversas, e a verdade é que estamos tão curiosos como ninguém. Seria errado chamar os materiais publicados de uma representação completa ou mesmo precisa de todo o processo (eles são descaradamente, embora ineficazes, escolhidos e escolhidos para caber em uma narrativa), mas mesmo assim estamos mais informados do que antes. .
ferramentas de moderação
Ainda mais diretamente revelador foi o tópico a seguir, que continha capturas de tela de ferramentas de moderação reais usadas pelos funcionários do Twitter. Embora o tópico tente falsamente igualar o uso dessas ferramentas a um shadow ban, as capturas de tela não mostram atividades nefastas, nem precisam ser interessantes.
Créditos da imagem: Twitter
Pelo contrário, o que é mostrado é convincente pela própria razão de ser tão mundano, tão brandamente sistemático. Estas são as várias técnicas que todas as empresas de mídia social explicaram repetidas vezes que usam, mas onde antes as tínhamos expressas no alegre cântico diplomático das relações públicas, agora elas são apresentadas sem comentários: "Trend Blacklisting". “Perfil alto”, “NÃO AJA” e o resto.
Por sua vez, Yoel Roth explica que ações e políticas precisam ser melhor alinhadas, que mais pesquisas são necessárias, que planos estão sendo feitos para melhorar:
“A suposição por trás de muito do que implementamos é que, se a exposição a, por exemplo, desinformação causar danos diretamente, devemos usar remédios que reduzam a exposição, e limitar a disseminação/viralidade do conteúdo é uma boa maneira de se o fizermos… precisaremos fazer um caso mais forte para incluir isso em nosso repertório de remediação de políticas, especialmente para outras áreas.”
Mais uma vez, o conteúdo desmente o contexto em que é apresentado: essas não são as deliberações de uma cabala liberal secreta atacando seus inimigos ideológicos com um martelo de proibição. É um painel de nível empresarial, como você pode ver para rastreamento de leads, logística ou contas, discutido e iterado por pessoas objetivas que trabalham dentro de restrições práticas e com o objetivo de satisfazer várias partes interessadas.
Como deveria ser: o Twitter, como outras plataformas de mídia social, trabalha há anos para tornar o processo de moderação eficiente e consistente o suficiente para funcionar em escala. Não só para que a plataforma não seja invadida por bots e spam, mas também para cumprir os marcos legais como as ordens do FTC e o GDPR. (Do qual o "acesso amplo e não filtrado" dado a estranhos à ferramenta de imagem pode constituir violação.)
Um punhado de funcionários tomando decisões arbitrárias sem rubrica ou supervisão não é uma maneira de moderar ou cumprir efetivamente tais requisitos legais; nem (como o renúncia de vários no Trust and Safety Council do Twitter) é a automação. Você precisa de uma grande rede de pessoas que cooperem e trabalhem de acordo com um sistema padronizado, com limites claros e procedimentos de escalonamento. E é certamente isso que as capturas de tela que Musk fez com que fossem lançadas parecem mostrar.
O que os documentos não mostram é qualquer tipo de viés sistemático, que os substitutos de Musk insinuam, mas falham em corroborar totalmente. Mas quer se encaixe ou não na narrativa que eles desejam, o que é postado é de interesse para qualquer um que pense que essas empresas deveriam ser mais transparentes sobre suas políticas. Isso é uma vitória para a transparência, mesmo que a abordagem opaca de Musk o alcance mais ou menos por acidente.
