Usuarios del Club TRPlane
El poder de OpenAI, la lucha que ha cautivado al mundo de la tecnología y las empresas después del despido del cofundador Sam Altman parece que ha llegado a su fin, al menos por el momento. ¿Pero qué va a pasar a partir de ahora?
Parece casi como si se necesitaran algunos elogios, como si OpenAI muriera y una startup nueva, pero no necesariamente mejorada, se encontrara en medio de ella. Altman, ex presidente de Y Combinator, ha vuelto al mando, pero ¿está justificado su regreso? La nueva junta directiva de OpenAI está teniendo un comienzo menos diverso (es decir, es enteramente blanca y masculina), y los objetivos filantrópicos fundacionales de la compañía están en peligro de ser coartados por intereses más capitalistas.
Eso no quiere decir que el antiguo OpenAI fuera perfecto, de ninguna manera.
Hasta el viernes por la mañana, OpenAI tenía una junta directiva de seis personas: Altman, el científico jefe de OpenAI, Ilya Sutskever, el presidente de OpenAI, Greg Brockman, la emprendedora tecnológica Tasha McCauley, el director ejecutivo de Quora, Adam D’Angelo, y Helen Toner, directora del Centro de Seguridad y Tecnologías Emergentes de Georgetown. La junta estaba técnicamente vinculada a una organización sin fines de lucro que tenía una participación mayoritaria por actores con fines de lucro, con poder absoluto de toma de decisiones sobre las actividades, inversiones y dirección general sobre la parte de OpenAI con fines de lucro.
La inusual estructura de OpenAI fue establecida por los cofundadores de la empresa, incluido Altman, con las mejores intenciones. Los estatutos excepcionalmente breves (de 500 palabras) de la organización sin fines de lucro describen que la junta debe tomar decisiones que garanticen “que la inteligencia artificial general beneficie a toda la humanidad”, dejando que los miembros de la junta decidan cuál es la mejor manera de interpretar eso. Ni los “beneficios” ni los “ingresos” se mencionan en este documento de North Star; Toner según se informa en el WSJ dijo en una ocasión al equipo ejecutivo de Altman que llevando al colapso a OpenAI «en realidad sería consistente con la misión sin ánimo de lucro.»
Quizás este arreglo habría funcionado en algún universo paralelo. Durante años, pareció funcionar bastante bien para OpenAI. Pero una vez que los inversores y otros socios poderosos se involucraron, las cosas se volvieron… mucho más complicadas.
El despido de Altman une a Microsoft y a los empleados de OpenAI
Después de que la junta despidiera abruptamente a Altman el viernes sin notificar a nadie, incluida la mayor parte de la fuerza laboral de 770 personas de OpenAI, los patrocinadores de la startup comenzaron a expresar su descontento tanto en privado como en público.
Satya Nadella, el director ejecutivo de Microsoft, un importante colaborador de OpenAI, se puso presuntamente “furioso” al enterarse de la partida de Altman. Vinod Khosla, fundador de Khosla Ventures, otro patrocinador de OpenAI, dijo en X (anteriormente Twitter) que el fondo quería de regreso a Altman. Mientras tanto, se decía que Thrive Capital, Khosla Ventures, Tiger Global Management y Sequoia Capital estaban contemplando acciones legales contra la junta si las negociaciones del fin de semana para reinstalar a Altman no salían como esperaban.
En ese momento, los empleados de OpenAI no estaban alineados con estos inversores según las apariencias externas. Todos ellos, incluido Sutskever, en un aparente cambio de opinión, firmaron una carta amenazando a la junta con una dimisión masiva si optaban por no revertir la decisión y el rumbo. Pero hay que considerar que estos empleados de OpenAI tenían mucho que perder si OpenAI se desmoronara (ofertas de trabajo de Microsoft y Salesforce aparte).
OpenAI había estado en conversaciones, lideradas por Thrive, para posiblemente vender acciones a los empleados en una medida que habría aumentado la valoración de la empresa de 29.000 millones de dólares a entre 80.000 y 90.000 millones de dólares. La repentina salida de Altman, y el elenco rotativo de directores ejecutivos interinos cuestionables por parte de OpenAI, generaron no poco temor a Thrive, poniendo la venta en peligro.
Altman ganó la batalla de cinco días, pero ¿a qué precio?
Ahora, después de varios días sin aliento, tensión y con noticias de todos los estilos, se ha llegado a algún tipo de «resolución». Altman, junto con Brockman, quien renunció el viernes en protesta por la decisión de la junta, está de regreso, aunque sujeto a una investigación de antecedentes sobre las preocupaciones que precipitaron su destitución. OpenAI tiene una nueva junta de transición que satisface una de las demandas de Altman. Y, según se informa, OpenAI mantendrá su estructura, con límites para los beneficios de los inversores y libertad para que la junta directiva tome decisiones que no estén basadas en los ingresos.
El director ejecutivo de Salesforce, Marc Benioff, publicó en X que ganaron «los buenos». Pero tal vez sea prematuro decirlo.
Claro, Altman «ganó», superando a una junta que lo acusó de «no ser consistentemente sincero” con los miembros de la junta directiva y, según algunos informes, anteponiendo el crecimiento a la misión. En un ejemplo de esta supuesta picardía, Altman se dice que fue criticó a Toner por un artículo del que fue coautora y que presentaba el enfoque de seguridad de OpenAI desde una perspectiva crítica, hasta el punto en que intentó expulsarla de la junta. En otro, Altman ”enfureció” a Sutskever al adelantarse en el lanzamiento de funciones impulsadas por IA en la primera conferencia de desarrolladores de OpenAI.
La junta no dio explicaciones incluso después de repetidas oportunidades, citando posibles desafíos legales. Y es seguro decir que descartaron a Altman de una manera innecesariamente histriónica. Pero no se puede negar que los directores podrían haber tenido razones válidas para dejar ir a Altman, al menos dependiendo de cómo interpretaron su directriz humanista.
Parece probable que la nueva junta interprete esa directiva «humanista» de manera diferente.
Actualmente, la junta directiva de OpenAI está formada por el ex codirector ejecutivo de Salesforce, Bret Taylor, D’Angelo (el único remanente de la junta original) y Larry Summers, el economista y ex presidente de Harvard. Taylor es un «emprendedor de emprendedores» y ha cofundado numerosas empresas, incluidas FriendFeed (adquirida por Facebook) y Quip (a través de cuya adquisición llegó a Salesforce). Mientras tanto, Summers tiene profundas conexiones comerciales y gubernamentales, un activo para OpenAI, probablemente se pensó en su selección, en un momento en que el escrutinio regulatorio de la IA se está intensificando.
Sin embargo, los directores no parecen una “victoria” absoluta para todos los observadores, no si la intención fuera la diversidad de puntos de vista. Si bien aún quedan por cubrir seis escaños, los cuatro iniciales establecieron un tono bastante homogéneo; De hecho, una junta así sería ilegal en Europa, donde los equipos ejecutivos de las empresas reservan al menos el 40% de sus puestos en los consejos de administración para mujeres.
Por qué algunos expertos en IA están preocupados por la nueva junta de OpenAI
Hay bastantes observares decepcionados. Y por otro lado, especialistas, varios académicos de IA recurrieron a X para expresar sus frustraciones.
Noah Giansiracusa, profesor de matemáticas en la Universidad de Bentley y autor de un libro sobre algoritmos de recomendación de redes sociales, discrepa tanto con la composición exclusivamente masculina de la junta como con la nominación de Summers, quien, según él, tiene un historial de hacer comentarios poco halagadores sobre las mujeres.
“Cualquiera que sea la opinión que uno haga sobre estos incidentes acaecidos, la óptica no es buena, por decirlo suavemente, especialmente para una empresa que ha estado liderando el desarrollo de la IA y remodelando el mundo en el que vivimos”, dijo Giansiracusa por mensaje de texto. “Lo que encuentro particularmente preocupante es que el objetivo principal de OpenAI es desarrollar inteligencia artificial general que ‘beneficie a toda la humanidad’. Dado que la mitad de la humanidad son mujeres, los acontecimientos recientes no me dan mucha confianza al respecto. Toner representa más directamente el lado de la seguridad de la IA, y esta ha sido a menudo la posición en la que se ha colocado a las mujeres, a lo largo de la historia, pero especialmente en la tecnología: proteger a la sociedad de grandes daños mientras los hombres obtienen el crédito por innovar y gobernar el mundo”.
Christopher Manning, director del Laboratorio de IA de Sanford, es un poco más caritativo que Giansiracusa, pero está de acuerdo con él en su evaluación:
«Es de suponer que la junta OpenAI recién formada todavía está incompleta. Sin embargo, la actual junta directiva, que carece de alguien con conocimientos profundos sobre el uso responsable de la IA en la sociedad humana y está compuesta únicamente por hombres blancos, no es un comienzo prometedor para una empresa de IA tan importante e influyente».
Estoy emocionada por los empleados de OpenAI de que Sam haya regresado, pero se siente muy de 2023 que nuestro final feliz sean tres hombres blancos en una junta encargada de garantizar que la IA beneficie a toda la humanidad. Esperems que haya más por venir pronto. —Ashley Mayer (@ashleymayer) 22 de noviembre de 2023
La inequidad afecta a la industria de la IA, desde los gestores que etiquetan los datos utilizados para entrenar modelos generativos de IA según los sesgos dañinos que a menudo aparecen en esos modelos entrenados, incluidos los modelos de OpenAI. Summers, para ser justos, ha expresado preocupación por las posibles ramificaciones dañinas de la IA, al menos en lo que se refiere a las formas de vivir. Pero a los críticos les resulta difícil creer que una junta como la actual de OpenAI priorice consistentemente estos desafíos, al menos no de la forma en que lo haría una junta más diversa.
Plantea la pregunta: ¿Por qué OpenAI no intentó reclutar a un conocido especialista en ética de la IA como Timnit Gebru o Margaret Mitchell para la junta inicial? ¿No estaban disponibles”? ¿Se negaron? ¿O OpenAI no hizo ningún esfuerzo inicial? Quizás nunca se sepa.
Según se dice en X, OpenAI consideró a Laurene Powell Jobs y Marissa Mayer para puestos en la junta directiva, pero se las consideró demasiado cercanas a Altman. Condoleezza Rice también fue propuesta, pero finalmente fue ignorada.
OpenAI tiene la oportunidad de demostrar que es más sabio y mundano al seleccionar los cinco puestos restantes en la junta directiva, o tres, en caso de que Altman y un ejecutivo de Microsoft ocupen uno cada uno (como se ha rumoreado). Si no toman un camino más diverso, lo que Daniel Colson, director del grupo de expertos AI Policy Institute, ha dicho en X bien puede ser cierto: no se puede confiar en unas pocas personas o un solo laboratorio para garantizar que la IA se desarrolle de manera responsable.
No hay que olvidar otros aspectos como los costes tecnológicos y operativos de OpenAI, que numerosas ocasiones se ha mencionado que, actualmente y en su proceso de crecimiento, no son sostenibles. Tampoco el hecho que de que las personas involucradas en una tecnología que está llamada a cambiar muchos aspectos en las personas, las empresas, las instituciones y la sociedad tienen intereses, en algunos casos múltiples, en otras actividades empresariales.
Quizás en este momento, lo que personalmente me parece que requiere una reflexión es que una persona, acompañado de un puñado más y unos 600 trabajadores puedan mover tanto la aguja. Una vez aparentemente se consolide, el modelo de la sociedad, económico, empresarial e inversor deberían realizar una reflexión.
Esto no ha hecho más que empezar, y habrá que estar especialmente atentos a todas las noticias, esperar unos meses, y realizar un análisis consolidado que permita ver que camino real se está tomando.
