El nuevo dueño de Twitter, Elon Musk, está promocionando febrilmente sus “Twitter Files”: comunicaciones internas seleccionadas de la empresa, laboriosamente tuiteadas por amanuenses simpatizantes. Pero la convicción obvia de Musk de que ha lanzado algún kraken partidista es errónea: lejos de ser una conspiración o un abuso sistémico, los archivos son un vistazo valioso detrás de la cortina de la moderación a gran escala, lo que sugiere los trabajos de Sísifo realizados por cada plataforma de redes sociales.
En la mitología griega, Sísifo fue fundador y rey de Éfira, más tarde conocida como Corinto y heredó el trono de Medea. Sísifo era un ejemplo de rey impío y es conocido por su castigo ejemplar que fue empujar una piedra cuesta arriba por una montaña pero, antes de llegar a la cima, volvía a rodar hacia abajo, hecho que se repetía una y otra vez como ejemplo de lo frustrante y absurdo del proceso
Durante una década, empresas como Twitter, YouTube y Facebook han realizado un elaborado baile para mantener los detalles de sus procesos de moderación igualmente fuera del alcance de los malos actores, los reguladores y la prensa.
Revelar demasiado sería exponer los procesos al abuso por parte de los spammers y estafadores (que de hecho se aprovechan de todos los detalles filtrados o publicados), mientras que revelar muy poco conduce a informes y rumores dañinos, ya que pierden el control sobre la narrativa. Mientras tanto, deben estar listos para justificar y documentar sus métodos o arriesgarse a la censura y multas de los organismos gubernamentales.
El resultado es que, si bien todos conocen un poco acerca de cómo estas empresas inspeccionan, filtran y organizan exactamente el contenido publicado en sus plataformas, es suficiente para estar seguros de que lo que estamos viendo es solo la punta del iceberg.
A veces hay revelaciones de los métodos que sospechábamos: contratistas por hora haciendo click en imágenes violentas y sexuales, una industria abominable pero aparentemente necesaria. A veces, las empresas se exceden, como afirmaciones repetidas de cómo la IA está revolucionando la moderación y los informes posteriores de que los sistemas de IA para este propósito son inescrutables y poco confiables.
Lo que casi nunca sucede (por lo general, las empresas no hacen esto a menos que se vean obligadas a hacerlo) es que las herramientas y los procesos reales de moderación de contenido a escala están expuestos sin filtro. Y eso es lo que Musk ha hecho, quizás para su propio riesgo, pero seguramente para el gran interés de cualquiera que alguna vez se haya preguntado qué hacen, dicen y dónde hacen click los moderadores cuando toman decisiones que pueden afectar a millones.
No prestes atención a la conversación honesta y compleja.
Las cadenas de correos electrónicos, las conversaciones de Slack y las capturas de pantalla (o, más bien, capturas de pantallas) publicadas durante la última semana brindan una idea de este proceso importante y poco comprendido. Lo que vemos es un poco de la materia prima, que no son los illuminati partidistas que algunos esperaban, aunque está claro, por su presentación altamente selectiva, que esto es lo que debemos percibir.
Más allá de esto, las personas involucradas son por turnos cautelosas y confiadas, prácticas y filosóficas, francas y complacientes, lo que demuestra que la elección de limitar o prohibir no se hace arbitrariamente sino de acuerdo con un consenso en evolución de puntos de vista opuestos.
Antes de la elección de restringir temporalmente la historia de la computadora portátil Hunter Biden, probablemente en este punto la decisión de moderación más polémica de los últimos años, detrás de la prohibición de Trump, no existe el partidismo ni la conspiración insinuados por el paquete de bomba de los documentos.
Robert Hunter Biden es un abogado estadounidense hijo del presidente de los Estados Unidos, Joe Biden. Biden formó parte de la corrupción de la junta de Burisma Holdings, un importante productor ucraniano de gas natural, de 2014 a 2019, por lo que sus negocios en Ucrania han sido objeto de una investigación periodística difundida por el periódico estadounidense New York Post. El supuesto intento del presidente Donald Trump de presionar al gobierno ucraniano para que investigue a Joe Biden y Hunter Biden, reteniendo para ello la ayuda de EE. UU. a Ucrania desencadenó una investigación de juicio político en septiembre de 2019, y solicitud de destitución.
En cambio, encontramos personas serias y reflexivas que intentan conciliar definiciones y políticas contradictorias e inadecuadas: ¿Qué constituye material «pirateado»? ¿Qué confianza tenemos en esta o aquella evaluación? ¿Qué es una respuesta proporcionada? ¿Cómo debemos comunicarlo, a quién y cuándo? ¿Cuáles son las consecuencias si lo hacemos, si no limitamos? ¿Qué precedentes establecemos o rompemos?
Las respuestas a estas preguntas no son del todo obvias y son el tipo de cosas que generalmente se resuelven durante meses de investigación y discusión, o incluso en los tribunales (los precedentes legales afectan el lenguaje legal y las repercusiones). Y tenían que hacerlo rápido, antes de que la situación se saliera de control de una forma u otra. La disidencia desde adentro y desde afuera (de un representante de los EE. UU., nada menos, irónicamente, mencionado en el hilo junto con Jack Dorsey en violación de la misma política) fue considerada e integrada honestamente.
“Esta es una situación emergente en la que los hechos siguen sin estar claros”, dijo el exjefe de Confianza y Seguridad, Yoel Roth. “Nos equivocamos al incluir una advertencia y evitar que este contenido se amplifique”.
Algunos cuestionan la decisión. Algunos cuestionan los hechos tal como han sido presentados. Otros dicen que no está respaldado por su lectura de la política. Uno dice que necesitan dejar muy clara la base ad hoc y el alcance de la acción, ya que obviamente será examinada como partidista. El Consejero General Adjunto Jim Baker pide más información, pero dice que se justifica la cautela. No hay un precedente claro; los hechos están en este punto ausentes o no verificados; parte del material es claramente imágenes de desnudos no consensuados.
“Creo que Twitter mismo debería restringir lo que recomienda o pone en las noticias de moda, y su política contra los grupos de QAnon es buena”, reconoce el representante Ro Khanna, al tiempo que argumenta que la acción en cuestión es un paso demasiado lejos. “Es un equilibrio difícil”.
Ni el público ni la prensa han estado al tanto de estas conversaciones, y la verdad es que somos tan curiosos como cualquier persona. Sería incorrecto llamar a los materiales publicados una representación completa o incluso precisa de todo el proceso (son descaradamente, aunque ineficazmente, seleccionados y elegidos para encajar en una narrativa), pero incluso así estamos más informados que antes. .
Herramientas de moderación
Aún más directamente revelador fue el siguiente hilo, que contenía capturas de pantalla de las herramientas de moderación reales utilizadas por los empleados de Twitter. Si bien el hilo intenta equiparar falsamente el uso de estas herramientas con la prohibición de la sombra, las capturas de pantalla no muestran actividad nefasta, ni necesitan hacerlo para ser interesantes.
Créditos de imagen: Twitter
Por el contrario, lo que se muestra es convincente por la misma razón de que es tan prosaico, tan insípidamente sistemático. Estas son las diversas técnicas que todas las empresas de redes sociales han explicado una y otra vez que utilizan, pero mientras que antes las teníamos expresadas en el alegre canto diplomático de las relaciones públicas, ahora se presentan sin comentarios: «Lista negra de tendencias», «Perfil alto», «NO ACTUAR” y el resto.
Por su parte, Yoel Roth explica que se necesita alinear mejor las acciones y políticas, que se requiere más investigación, que se están haciendo planes para mejorar:
«La hipótesis que subyace en gran parte de lo que hemos implementado es que si la exposición a, por ejemplo, la información errónea causa daño directamente, debemos usar remedios que reduzcan la exposición, y limitar la propagación/viralidad del contenido es una buena manera de hacerlo… estamos necesitaremos presentar un caso más sólido para incluir esto en nuestro repertorio de remediación de políticas, especialmente para otros ámbitos.»
Una vez más, el contenido desmiente el contexto en el que se presenta: estas no son las deliberaciones de una camarilla liberal secreta que ataca a sus enemigos ideológicos con un martillo de prohibición. Es un panel de nivel empresarial como el que puede ver para el seguimiento de clientes potenciales, la logística o las cuentas, discutido e iterado por personas sensatas que trabajan dentro de las limitaciones prácticas y con el objetivo de satisfacer a múltiples partes interesadas.
Como debería ser: Twitter, al igual que otras plataformas de redes sociales, ha estado trabajando durante años para hacer que el proceso de moderación sea lo suficientemente eficiente y sistemático para funcionar a escala. No solo para que la plataforma no se vea invadida por bots y spam, sino también para cumplir con marcos legales como las órdenes de la FTC y el RGPD. (De los cuales el «acceso extenso y sin filtrar» que se les dio a los extraños a la herramienta de la imagen bien puede constituir una violación).
Un puñado de empleados que toman decisiones arbitrarias sin rúbrica ni supervisión no es forma de moderar de manera efectiva o cumplir con tales requisitos legales; tampoco (como la renuncia de varios en el Consejo de Seguridad y Confianza de Twitter) es la automatización. Necesita una gran red de personas que cooperen y trabajen de acuerdo con un sistema estandarizado, con límites claros y procedimientos de escalamiento. Y eso es ciertamente lo que parecen mostrar las capturas de pantalla que Musk ha hecho que se publiquen.
Lo que no muestran los documentos es ningún tipo de sesgo sistemático, que los suplentes de Musk insinúan, pero no logran corroborar del todo. Pero ya sea que encaje o no en la narrativa que desean, lo que se publica es de interés para cualquiera que piense que estas empresas deberían ser más comunicativas sobre sus políticas. Esa es una victoria para la transparencia, incluso si el enfoque opaco de Musk lo logra más o menos por accidente.
