Un día de noviembre, una estratega de producto, a quien llamaremos Michelle, inició sesión en su cuenta de LinkedIn y cambió su género a masculino. También modificó su nombre a Michael. Estaba participando en un experimento social conocido como #WearthePants, donde un grupo de mujeres profesionales investigaba la hipótesis de que el nuevo algoritmo de la plataforma estaba sesgado en su contra.
Durante meses, usuarias influyentes de LinkedIn habían reportado caídas significativas en la interacción y las impresiones de sus publicaciones. Este fenómeno coincidió con el anuncio en agosto por parte de Tim Jurka, vicepresidente de ingeniería de la compañía, sobre la implementación de Modelos de Lenguaje Grandes (LLM) para optimizar el contenido mostrado a los usuarios.
Definición: LLM (Large Language Model)
Un Modelo de Lenguaje Grande (LLM) es un tipo de inteligencia artificial entrenada con enormes cantidades de datos de texto para comprender, generar y responder al lenguaje humano. Son la tecnología detrás de herramientas como ChatGPT y se utilizan en plataformas como LinkedIn para seleccionar y priorizar el contenido que los usuarios ven en su feed.
Michelle, con más de 10.000 seguidores, sospechaba de los cambios. A menudo escribe publicaciones para su marido, que tiene solo 2.000 seguidores, y notó que ambos obtenían una cantidad similar de impresiones. «La única variable significativa era el género», afirmó.
Marilynn Joyner, fundadora de una empresa, también se unió al experimento. Tras dos años publicando de forma constante, observó una drástica disminución en la visibilidad. Los resultados de su cambio fueron inmediatos y contundentes.
Otras profesionales como Megan Cornish, Rosie Taylor, Jessica Doyle Mekkes, Abby Nydam, Felicity Menzies y Lucy Ferguson reportaron resultados similares, documentando un notable incremento en el alcance de sus contenidos tras adoptar una identidad masculina en sus perfiles.
Postura Oficial de LinkedIn
LinkedIn ha declarado que su «algoritmo y sistemas de IA no utilizan información demográfica como edad, raza o género como señal para determinar la visibilidad del contenido». Añaden que «una instantánea de las actualizaciones del feed que no son perfectamente representativas no implica automáticamente un trato injusto o sesgo».
Expertos en algoritmos sociales sugieren que, aunque es improbable un sexismo explícito, podría existir un sesgo implícito. Brandeis Marshall, consultora en ética de datos, describe estas plataformas como «una intrincada sinfonía de algoritmos que accionan palancas matemáticas y sociales». Según Marshall, «el cambio de foto y nombre es solo una de esas palancas», y el problema es mucho más complejo de lo que parece.
El origen del experimento #WearthePants
La iniciativa #WearthePants fue impulsada por las empresarias Cindy Gallop y Jane Evans. Para probar su teoría, pidieron a dos hombres que publicaran exactamente el mismo contenido que ellas. La diferencia en seguidores era abismal: más de 150.000 combinados para ellas, frente a unos 9.400 de los hombres.
Los resultados fueron reveladores. La publicación de Gallop alcanzó a 801 personas, mientras que la del hombre con el mismo contenido llegó a 10.408, superando el 100% de su propia red de seguidores. Este desequilibrio motivó a otras mujeres a unirse.
Perfil: LinkedIn
LinkedIn es la red social profesional más grande del mundo, diseñada para facilitar la conexión entre profesionales, la búsqueda de empleo y el desarrollo de carreras. Fundada en 2002, su misión es conectar a los profesionales del mundo para hacerlos más productivos y exitosos. La plataforma fue adquirida por Microsoft en 2016, lo que ha integrado sus servicios en el ecosistema de productividad de la tecnológica.
- Sede: Sunnyvale, California, EE.UU.
- Fundación: 2002 por Reid Hoffman, Allen Blue, Konstantin Guericke, Eric Ly y Jean-Luc Vaillant.
- Propietario: Microsoft Corporation (Adquisición en 2016 por $26.2 mil millones).
- Social: LinkedIn, X (Twitter)
- Web: Visitar sitio oficial
La controversia reside en la opacidad de los algoritmos. Plataformas como LinkedIn, que dependen de LLMs, ofrecen pocos detalles sobre cómo se entrenan sus modelos. Marshall señala que la mayoría de estas plataformas incorporan un «punto de vista blanco, masculino y centrado en Occidente» debido a quiénes entrenaron los modelos. Investigaciones académicas confirman la presencia de sesgos humanos, como el sexismo y el racismo, en los LLM populares, ya que se nutren de contenido generado por humanos.
Más allá del género: tono, estilo y otras variables
LinkedIn insiste en que el experimento no demuestra un sesgo de género. La compañía afirma que utiliza datos demográficos únicamente para realizar pruebas de equidad, asegurando que los creadores compitan en igualdad de condiciones. Sin embargo, las variables desconocidas complican el análisis.
Michelle, por ejemplo, admitió que durante la semana que publicó como «Michael», ajustó su tono a un estilo más simplista y directo, similar al que usa para su esposo. Fue entonces cuando sus impresiones aumentaron un 200% y la interacción un 27%. Su conclusión es que el sistema no es «explícitamente sexista», pero parece considerar los estilos de comunicación asociados a las mujeres como «un indicador de menor valor».
Si un LLM está entrenado para priorizar un estilo de escritura conciso y directo, estereotipado como masculino, sobre uno más colaborativo y emocional, estereotipado como femenino, se trata de un sesgo implícito. Sarah Dean, profesora de informática en Cornell, añade que los algoritmos consideran perfiles completos, incluyendo el historial laboral y las interacciones pasadas, lo que puede afectar tanto lo que un usuario ve como quién ve sus publicaciones.
Cronología del Conflicto Algorítmico
| Agosto 202X | LinkedIn anuncia la implementación de nuevos LLMs para mejorar el feed de noticias. |
| Noviembre 202X | Comienza el experimento #WearthePants, con usuarias cambiando su género en el perfil para medir el impacto. |
| Diciembre 202X | LinkedIn reitera que sus sistemas no usan datos demográficos para la visibilidad y atribuye los cambios a otros factores. |
Una insatisfacción generalizada
La confusión y el descontento con el nuevo algoritmo no se limitan a un solo género. Shailvi Wakhulu, científica de datos, ha publicado diariamente durante cinco años y solía obtener miles de impresiones; ahora, apenas alcanza unos cientos. «Es desmotivador para los creadores de contenido con seguidores leales», lamenta.
Las experiencias son variadas. Un usuario masculino reportó una caída del 50% en la interacción, mientras que otro afirmó que su alcance ha aumentado más del 100% al centrarse en temas específicos para audiencias nicho, algo que el nuevo algoritmo parece recompensar.
LinkedIn justifica los cambios por el crecimiento de la plataforma: las publicaciones aumentaron un 15% y los comentarios un 24% interanual, lo que se traduce en «más competencia en el feed». Según la empresa, el contenido sobre conocimientos profesionales, análisis de la industria y temas educativos está funcionando bien.
A pesar de las explicaciones, la demanda de los usuarios es clara. «Quiero transparencia», resume Michelle. Sin embargo, dado que los algoritmos son secretos comerciales celosamente guardados, es una petición que probablemente quedará sin respuesta.
