La puissance d'OpenAI, le combat qui a captivé le monde de la technologie et des affaires après le limogeage du co-fondateur Sam Altman, semble avoir pris fin, du moins pour le moment. Mais que va-t-il se passer désormais ?
Il semble presque que des éloges soient nécessaires, comme si OpenAI était mort et qu'une nouvelle startup, mais pas nécessairement améliorée, se retrouvait au milieu de celle-ci. Altman, ancien président de Y Combinator, est de retour aux commandes, mais son retour est-il justifié ? Le nouveau conseil d'administration d'OpenAI connaît des débuts moins diversifiés (c'est-à-dire qu'il est entièrement blanc et masculin), et les objectifs philanthropiques fondateurs de l'entreprise risquent d'être restreints par des intérêts plus capitalistes.
Cela ne veut en aucun cas dire que l’ancien OpenAI était parfait.
Vendredi matin, OpenAI comptait un conseil d'administration de six personnes : Altman, le scientifique en chef d'OpenAI Ilya Sutskever, le président d'OpenAI Greg Brockman, l'entrepreneur technologique Tasha McCauley, le PDG de Quora Adam D'Angelo et Helen Toner, directrice du Center for Security de Georgetown. et technologies émergentes. Le conseil d’administration était techniquement lié à une organisation à but non lucratif détenue majoritairement par des acteurs à but lucratif, avec un pouvoir de décision absolu sur les activités, les investissements et la direction générale de la partie à but lucratif d’OpenAI.
La structure inhabituelle d'OpenAI a été établie par les cofondateurs de l'entreprise, dont Altman, avec les meilleures intentions. Les statuts exceptionnellement brefs (500 mots) de l'organisation à but non lucratif décrivent que le conseil d'administration doit prendre des décisions qui garantissent « que l'intelligence artificielle générale profite à toute l'humanité », laissant aux membres du conseil le soin de décider quelle est la meilleure façon d'interpréter cela. Ni les « bénéfices » ni les « revenus » ne sont mentionnés dans ce document de North Star ; Tonique comme indiqué dans le WSJ Il a un jour déclaré à l'équipe de direction d'Altman que conduire à l'effondrement d'OpenAI "serait en fait cohérent avec la mission de l'organisation à but non lucratif".
Peut-être que cet arrangement aurait fonctionné dans un univers parallèle. Pendant des années, cela a semblé plutôt bien fonctionner pour OpenAI. Mais une fois que les investisseurs et autres partenaires puissants se sont impliqués, les choses sont devenues… beaucoup plus compliquées.
Le licenciement d'Altman unit les employés de Microsoft et d'OpenAI
Après que le conseil d'administration a brusquement licencié Altman vendredi sans en informer personne, y compris la plupart des 770 employés d'OpenAI, les bailleurs de fonds de la startup ont commencé à exprimer leur mécontentement à la fois en privé et en public.
Satya Nadella, le PDG de Microsoft, contributeur majeur d'OpenAI, s'est levé probablement « furieux » en apprenant le départ d’Altman. Vinod Khosla, fondateur de Khosla Ventures, un autre bailleur de fonds d'OpenAI, a déclaré sur X (anciennement Twitter) que le fonds Je voulais revenir à Altman. Pendant ce temps, Thrive Capital, Khosla Ventures, Tiger Global Management et Sequoia Capital envisageraient d'intenter une action en justice contre le conseil d'administration si les négociations du week-end pour réintégrer Altman ne se déroulaient pas comme prévu.
A cette époque, les employés d'OpenAI Ils n'étaient pas alignés avec ces investisseurs selon les apparences extérieures. Tous, y compris Sutskever, dans un changement d'avis apparent, ont signé une lettre menaçant le conseil d'administration d'une démission massive s'ils choisissaient de ne pas revenir sur la décision et le cap. Mais il faut considérer que ces salariés d’OpenAI avaient beaucoup à perdre si OpenAI s’effondrait (offres d’emploi de Microsoft et Salesforce à part).
OpenAI était en pourparlers, menés par Thrive, pour éventuellement vendre des actions aux salariés, ce qui aurait fait passer la valorisation de l'entreprise de 29.000 milliards de dollars à entre 80.000 et 90.000 milliards de dollars. Le départ soudain d'Altman et la rotation des PDG par intérim d'OpenAI ont suscité de nombreuses craintes chez Thrive, mettant ainsi la vente en péril.
Altman a remporté la bataille de cinq jours, mais à quel prix ?
Aujourd’hui, après plusieurs jours d’essoufflement, de tensions et d’actualités de toutes sortes, une sorte de « résolution » a été trouvée. Altman, ainsi que Brockman, qui a démissionné vendredi pour protester contre la décision du conseil d'administration, sont de retour, bien que soumis à une enquête sur les préoccupations qui ont précipité son éviction. OpenAI dispose d'une nouvelle carte de transition qui répond à l'une des demandes d'Altman. Et OpenAI maintiendrait sa structure, avec des limites aux bénéfices des investisseurs et la liberté du conseil d'administration de prendre des décisions qui ne sont pas basées sur les revenus.
Le PDG de Salesforce, Marc Benioff, a posté sur X que « les gentils » ont gagné. Mais c'est peut-être prématuré de le dire.
Bien sûr, Altman a « gagné », surmontant un conseil d’administration qui l’accusait de « ne pas être systématiquement honnête » avec les membres du conseil d’administration et, selon certains rapports, de faire passer la croissance avant la mission. Dans un exemple de ce prétendu méfait, Altman on dit que c'était a critiqué Toner pour un article qu'elle a co-écrit et qui présentait l'approche de sécurité d'OpenAI d'un point de vue critique, au point qu'il a tenté de l'évincer du conseil d'administration. Dans un autre, Altman”furieux" à Sutskever alors qu'il taquinait le lancement de fonctionnalités basées sur l'IA lors de la première conférence des développeurs OpenAI.
Le conseil d'administration n'a donné aucune explication, même après de nombreuses occasions, évoquant d'éventuelles contestations judiciaires. Et on peut dire sans se tromper qu’ils ont renvoyé Altman d’une manière inutilement histrionique. Mais il est indéniable que les réalisateurs auraient pu avoir des raisons valables de laisser partir Altman, du moins selon la manière dont ils interprétaient sa directive humaniste.
Il semble probable que le nouveau conseil d’administration interprétera différemment cette directive « humaniste ».
Actuellement, le conseil d'administration de OpenAI est formé par l'ancien co-PDG de Salesforce Bret Taylor, D'Angelo (le seul vestige du conseil d'administration d'origine) et Larry Summers, l'économiste et ancien président de Harvard. Taylor est un « entrepreneur d'entrepreneur » et a cofondé de nombreuses sociétés, dont FriendFeed (acquise par Facebook) et Quip (grâce à l'acquisition de laquelle il est arrivé à Salesforce). Summers, quant à lui, entretient des liens étroits avec les entreprises et le gouvernement – un atout pour OpenAI – ce qui a probablement motivé sa sélection, à un moment où le contrôle réglementaire de l’IA s’intensifie.
Cependant, les réalisateurs ne semblent pas être une « victoire » absolue pour tous les observateurs, même si la diversité des points de vue était recherchée. S'il reste six sièges à pourvoir, les quatre premiers donnent un ton assez homogène ; En fait, une telle réunion serait illégale en Europe, où équipes de direction des entreprises réservent au moins 40 % de leurs sièges au conseil d’administration aux femmes.
Pourquoi certains experts en IA s'inquiètent du nouveau conseil d'administration d'OpenAI
Il y a pas mal d’observations déçues. Et d’un autre côté, spécialistes, plusieurs universitaires en IA se sont tournés vers X pour exprimer leurs frustrations.
Noah Giansiracusa, professeur de mathématiques à l'Université Bentley et auteur d'un livre sur les algorithmes de recommandation sur les réseaux sociaux, conteste à la fois la composition exclusivement masculine du conseil d'administration et la nomination de Summers, qui, selon lui, a un historique de comportement. commentaires peu flatteurs sur les femmes.
“Cualquiera que sea la opinión que uno haga sobre estos incidentes acaecidos, la óptica no es buena, por decirlo suavemente, especialmente para una empresa que ha estado liderando el desarrollo de la IA y remodelando el mundo en el que vivimos”, dijo Giansiracusa por message de texte. « Ce que je trouve particulièrement préoccupant, c'est que l'objectif principal d'OpenAI est de développer une intelligence artificielle générale qui « profite à toute l'humanité ». Étant donné que la moitié de l’humanité est constituée de femmes, les événements récents ne me donnent pas beaucoup de confiance à cet égard. Le toner représente le plus directement l’aspect sécurité de l’IA, et c’est souvent la position dans laquelle les femmes ont été placées, tout au long de l’histoire, mais surtout dans la technologie : protéger la société contre de graves dommages tandis que les hommes se voient attribuer le mérite d’innover et de gouverner le monde.
Christopher Manning, directeur du Sanford AI Lab, est un peu plus charitable que Giansiracusa, mais partage son évaluation :
« Le nouveau conseil d’administration d’OpenAI est probablement encore incomplet. "Cependant, le conseil d'administration actuel, qui manque de connaissances approfondies sur l'utilisation responsable de l'IA dans la société humaine et est composé uniquement d'hommes blancs, n'est pas un début prometteur pour une entreprise d'IA aussi grande et influente."
Je suis ravi pour les employés d'OpenAI que Sam soit de retour, mais cela fait très plaisir en 2023 que notre fin heureuse soit composée de trois hommes blancs au sein d'un conseil d'administration chargé de garantir que l'IA profite à toute l'humanité. Espérons qu'il y en aura d'autres bientôt. —Ashley Mayer (@ashleymayer) Novembre 22 2023
Les inégalités affectent l'industrie de l'IA, de gestionnaires qui étiquettent les données utilisées pour former des modèles d'IA génératifs sur la base de biais préjudiciables qui apparaissent souvent dans ces modèles formés, y compris les modèles OpenAI. Summers, pour être honnête, A exprimé inquiétude quant aux ramifications potentiellement néfastes de l’IA, du moins en ce qui concerne les modes de vie. Mais les critiques ont du mal à croire qu'un conseil d'administration comme celui actuel d'OpenAI donnerait systématiquement la priorité à ces défis, du moins pas de la même manière qu'un conseil d'administration plus diversifié.
Cela soulève la question suivante : pourquoi OpenAI n'a-t-il pas essayé de recruter un éthicien bien connu de l'IA comme Timnit Gebru ou Margaret Mitchell au sein du conseil d'administration initial ? « N'étaient-ils pas disponibles » ? Ont-ils refusé ? Ou OpenAI n’a-t-il fait aucun effort initial ? Peut-être que nous ne le saurons jamais.
Comme indiqué dans X, OpenAI a envisagé Laurene Powell Jobs et Marissa Mayer pour des postes au conseil d'administration, mais elles ont été jugées trop proches d'Altman. Condoleezza Rice a également été proposée, mais a finalement été ignorée.
OpenAI a une chance de se montrer plus sage et plus mondain en sélectionnant les cinq sièges restants au conseil d'administration – ou trois, si Altman et un dirigeant de Microsoft en prennent chacun un (comme la rumeur l'a dit). S'ils n'empruntent pas une voie plus diversifiée, ce que Daniel Colson, directeur du groupe de réflexion AI Policy Institute, il a dit à X pourrait bien être vrai : on ne peut pas faire confiance à quelques personnes ou à un seul laboratoire pour garantir que l’IA soit développée de manière responsable.
Il ne faut pas oublier d'autres aspects comme les coûts technologiques et opérationnels d'OpenAI, qui ont été évoqués à plusieurs reprises comme, actuellement et dans son processus de croissance, non durables. Ni le fait que les personnes impliquées dans une technologie destinée à changer de nombreux aspects des personnes, des entreprises, des institutions et de la société ont des intérêts, parfois multiples, dans d'autres activités commerciales.
Peut-être qu’en ce moment, ce qui, à mon avis, mérite réflexion, c’est qu’une seule personne, accompagnée d’une poignée d’autres et d’environ 600 travailleurs, peut faire autant de progrès. Une fois apparemment consolidé, le modèle de société, économique, commercial et d’investissement devrait refléter.
Cela ne fait que commencer et il faudra être particulièrement attentif à toutes les nouvelles, attendre quelques mois et faire une analyse consolidée qui nous permette de voir quel chemin réel est pris.
