Die Macht von OpenAI, der Kampf, der die Technologie- und Geschäftswelt nach der Entlassung von Mitbegründer Sam Altman in seinen Bann gezogen hat, scheint zumindest vorerst zu Ende zu sein. Aber was wird von nun an passieren?
Es scheint fast so, als wäre etwas Lob nötig, als ob OpenAI gestorben wäre und sich mittendrin ein neues, aber nicht unbedingt verbessertes Startup befunden hätte. Altman, ehemaliger Präsident von Y Combinator, ist zurück an der Spitze, aber ist seine Rückkehr gerechtfertigt? Der neue Vorstand von OpenAI hat einen weniger vielfältigen Start hingelegt (d. h. er ist ausschließlich weiß und männlich), und die philanthropischen Gründungsziele des Unternehmens laufen Gefahr, durch kapitalistischere Interessen eingeschränkt zu werden.
Das heißt keineswegs, dass das alte OpenAI perfekt war.
Am Freitagmorgen hatte OpenAI einen sechsköpfigen Vorstand: Altman, OpenAI-Chefwissenschaftler Ilya Sutskever, OpenAI-Präsident Greg Brockman, Technologieunternehmerin Tasha McCauley, Quora-CEO Adam D'Angelo und Helen Toner, Direktorin des Georgetown Center for Security und neue Technologien. Der Vorstand war technisch mit einer gemeinnützigen Organisation verbunden, die sich mehrheitlich im Besitz gewinnorientierter Akteure befand und über die absolute Entscheidungsbefugnis über die Aktivitäten, Investitionen und die allgemeine Ausrichtung des gewinnorientierten Teils von OpenAI verfügte.
Die ungewöhnliche Struktur von OpenAI wurde von den Mitbegründern des Unternehmens, darunter Altman, mit den besten Absichten geschaffen. In der außergewöhnlich kurzen Satzung (500 Wörter) der gemeinnützigen Organisation wird beschrieben, dass der Vorstand Entscheidungen treffen muss, die sicherstellen, „dass künstliche allgemeine Intelligenz der gesamten Menschheit zugute kommt“, und überlässt es den Vorstandsmitgliedern, zu entscheiden, welche Art und Weise dies am besten zu interpretieren ist. Weder „Gewinne“ noch „Einkommen“ werden in diesem North Star-Dokument erwähnt; Toner wie im WSJ berichtet Er sagte einmal zu Altmans Führungsteam, dass der Zusammenbruch von OpenAI „eigentlich im Einklang mit der Mission der gemeinnützigen Organisation stünde“.
Vielleicht hätte diese Anordnung in einem Paralleluniversum funktioniert. Jahrelang schien es für OpenAI ziemlich gut zu funktionieren. Aber als sich Investoren und andere mächtige Partner einmischten, wurde die Sache … viel komplizierter.
Altmans Entlassung vereint Microsoft- und OpenAI-Mitarbeiter
Nachdem der Vorstand Altman am Freitag plötzlich entlassen hatte, ohne irgendjemanden zu benachrichtigen, einschließlich des Großteils der 770 Mitarbeiter von OpenAI, begannen die Unterstützer des Startups, ihre Unzufriedenheit sowohl privat als auch öffentlich zum Ausdruck zu bringen.
Satya Nadella, der CEO von Microsoft, einem wichtigen Mitwirkenden von OpenAI, stand auf vermutlich „wütend“, als er von Altmans Weggang erfuhr. Vinod Khosla, Gründer von Khosla Ventures, einem weiteren Unterstützer von OpenAI, sagte auf X (ehemals Twitter), dass der Fonds Ich wollte zurück an Altmann. Unterdessen erwägen Thrive Capital, Khosla Ventures, Tiger Global Management und Sequoia Capital angeblich rechtliche Schritte gegen den Vorstand, falls die Verhandlungen über die Wiedereinstellung von Altman am Wochenende nicht wie erwartet verlaufen sollten.
Damals Mitarbeiter von OpenAI Sie waren nicht ausgerichtet mit diesen Investoren nach Außendarstellung. Sie alle, darunter auch Sutskever, unterzeichneten in einem offensichtlichen Sinneswandel einen Brief, in dem sie dem Vorstand mit einem Massenrücktritt drohten, falls sie sich dazu entschließen würden, die Entscheidung und den Kurs nicht rückgängig zu machen. Aber man muss bedenken, dass diese OpenAI-Mitarbeiter viel zu verlieren hätten, wenn OpenAI auseinanderfallen würde (Stellenangebote von Microsoft und Salesforce auseinander).
OpenAI war unter der Leitung von Thrive in Gesprächen darüber, möglicherweise Aktien an Mitarbeiter zu verkaufen, was den Wert des Unternehmens von 29.000 Milliarden US-Dollar auf 80.000 bis 90.000 Milliarden US-Dollar erhöht hätte. Altmans plötzlicher Abgang und die wechselnde Besetzung fragwürdiger Interims-CEOs von OpenAI lösten bei Thrive erhebliche Ängste aus und gefährdeten den Verkauf.
Altman gewann den fünftägigen Kampf, aber um welchen Preis?
Nun, nach mehreren Tagen voller Atemlosigkeit, Spannung und Neuigkeiten aller Art, ist eine Art „Lösung“ gefunden. Altman ist zusammen mit Brockman, der am Freitag aus Protest gegen die Entscheidung des Vorstands zurücktrat, zurück, obwohl eine Hintergrunduntersuchung zu Bedenken durchgeführt wird, die zu seinem Sturz geführt haben. OpenAI verfügt über ein neues Übergangsboard, das eine von Altmans Forderungen erfüllt. Und OpenAI wird Berichten zufolge seine Struktur beibehalten, mit Beschränkungen für die Gewinne der Anleger und der Freiheit des Vorstands, Entscheidungen zu treffen, die nicht auf Einnahmen basieren.
Marc Benioff, CEO von Salesforce, postete auf X, dass „die Guten“ gewonnen hätten. Aber Vielleicht ist es verfrüht, das zu sagen.
Klar, Altman hat „gewonnen“ und sich gegen einen Vorstand durchgesetzt, der ihm vorwarf, dass er den Vorstandsmitgliedern gegenüber „nicht konsequent ehrlich“ sei und einigen Berichten zufolge Wachstum über seine Mission stelle. Ein Beispiel für dieses vermeintliche Unheil: Altman es wird gesagt, dass es so war kritisierte Toner für einen von ihr mitverfassten Artikel, der den Sicherheitsansatz von OpenAI aus einer kritischen Perspektive darstellte, bis zu dem Punkt, an dem er versuchte, sie aus dem Vorstand zu verdrängen. In einem anderen, Altman“wütend„zu Sutskever, als er die Einführung KI-gestützter Funktionen auf der ersten OpenAI-Entwicklerkonferenz ankündigte.
Die Kammer gab auch nach wiederholter Gelegenheit keine Erklärung ab und verwies auf mögliche rechtliche Anfechtungen. Und man kann mit Sicherheit sagen, dass sie Altman auf unnötig theatralische Weise entlassen haben. Aber es lässt sich nicht leugnen, dass die Regisseure triftige Gründe gehabt haben könnten, Altman gehen zu lassen, zumindest abhängig davon, wie sie seine humanistische Anweisung interpretierten.
Es ist wahrscheinlich, dass der neue Vorstand diese „humanistische“ Richtlinie anders interpretieren wird.
Derzeit ist der Vorstand von OpenAI ist Gegründet vom ehemaligen Salesforce-Co-CEO Bret Taylor, D'Angelo (dem einzigen Überbleibsel des ursprünglichen Vorstands) und Larry Summers, dem Wirtschaftswissenschaftler und ehemaligen Harvard-Präsidenten. Taylor ist ein „Entrepreneur’s Entrepreneur“ und hat zahlreiche Unternehmen mitbegründet, darunter FriendFeed (von Facebook übernommen) und Quip (durch deren Übernahme er zu Salesforce kam). Summers verfügt unterdessen über weitreichende Geschäfts- und Regierungsbeziehungen – ein Vorteil für OpenAI –, was wahrscheinlich in einer Zeit, in der die behördliche Kontrolle von KI immer strenger wird, in seine Auswahl eingeflossen ist.
Allerdings scheinen die Regisseure nicht für alle Beobachter ein absoluter „Gewinn“ zu sein, schon gar nicht, wenn die Vielfalt der Standpunkte beabsichtigt war. Während noch sechs Sitze zu besetzen sind, geben die ersten vier einen recht homogenen Ton an; Tatsächlich wäre ein solches Treffen in Europa illegal Führungsteams der Unternehmen reservieren mindestens 40 % ihrer Vorstandssitze für Frauen.
Warum einige KI-Experten über den neuen Vorstand von OpenAI besorgt sind
Es gibt eine ganze Reihe enttäuschender Beobachtungen. Und auf der anderen Seite, Experten, wandten sich mehrere KI-Akademiker an X, um ihrer Frustration Ausdruck zu verleihen.
Noah Giansiracusa, Mathematikprofessor an der Bentley University und Autor eines Buches über Social-Media-Empfehlungsalgorithmen, kritisiert sowohl die rein männliche Besetzung des Vorstands als auch die Nominierung von Summers, der seiner Meinung nach auf eine lange Erfolgsgeschichte zurückblickt wenig schmeichelhafte Kommentare über Frauen.
„Welche Meinung man auch immer zu diesen Vorfällen hat, die Optik ist, gelinde gesagt, nicht gut, insbesondere für ein Unternehmen, das die Entwicklung von KI vorantreibt und die Welt, in der wir leben, neu gestaltet“, sagte Giansiracusa per SMS. „Was mich besonders beunruhigt, ist, dass das Hauptziel von OpenAI darin besteht, allgemeine künstliche Intelligenz zu entwickeln, die ‚der gesamten Menschheit zugute kommt‘.“ Angesichts der Tatsache, dass die Hälfte der Menschheit Frauen sind, stimmen mich die jüngsten Ereignisse in dieser Hinsicht nicht besonders zuversichtlich. Toner repräsentiert am deutlichsten die Sicherheitsseite der KI, und in dieser Position wurden Frauen im Laufe der Geschichte, insbesondere aber in der Technologie, oft platziert: Sie schützen die Gesellschaft vor großem Schaden, während Männern Anerkennung dafür zuteil wird, dass sie innovativ sind und die Welt beherrschen.“
Christopher Manning, Direktor des Sanford AI Lab, ist etwas wohltätiger als Giansiracusa, stimmt ihm aber in seiner Einschätzung zu:
„Der neu gebildete OpenAI-Vorstand ist vermutlich noch unvollständig. „Allerdings ist der derzeitige Vorstand, dem niemand mit fundiertem Wissen über den verantwortungsvollen Einsatz von KI in der menschlichen Gesellschaft fehlt und der ausschließlich aus weißen Männern besteht, kein vielversprechender Start für ein so großes und einflussreiches KI-Unternehmen.“
Ich freue mich für die OpenAI-Mitarbeiter, dass Sam zurück ist, aber es fühlt sich sehr 2023 an, dass unser Happy End darin besteht, dass drei weiße Männer in einem Vorstand dafür sorgen, dass KI der gesamten Menschheit zugute kommt. Hoffen wir, dass es bald noch mehr gibt. —Ashley Mayer (@ashleymayer) 22 November 2023
Ungleichheit wirkt sich auf die KI-Branche aus Führungskräfte die Daten kennzeichnen, die zum Trainieren generativer KI-Modelle verwendet werden, basierend auf schädlichen Verzerrungen, die häufig in diesen trainierten Modellen auftreten, einschließlich OpenAI-Modellen. Summers, um fair zu sein, Hat ausgedrückt Besorgnis über die möglichen schädlichen Auswirkungen der KI, zumindest was die Lebensweise betrifft. Kritikern fällt es jedoch schwer zu glauben, dass ein Gremium wie das aktuelle von OpenAI diesen Herausforderungen konsequent Priorität einräumen würde, zumindest nicht in der Weise, wie es ein vielfältigeres Gremium tun würde.
Es stellt sich die Frage: Warum hat OpenAI nicht versucht, einen bekannten KI-Ethiker wie Timnit Gebru oder Margaret Mitchell für den ersten Vorstand zu gewinnen? „Waren sie nicht verfügbar“? Haben sie sich geweigert? Oder hat OpenAI keine anfänglichen Anstrengungen unternommen? Vielleicht werden wir es nie erfahren.
Wie in X angegeben, OpenAI berücksichtigte Laurene Powell Jobs und Marissa Mayer für Vorstandsposten, aber sie wurden als zu nah an Altman angesehen. Auch Condoleezza Rice wurde vorgeschlagen, aber letztendlich ignoriert.
OpenAI hat die Chance, sich klüger und weltoffener zu beweisen, indem es die verbleibenden fünf Sitze im Vorstand auswählt – oder drei, falls Altman und ein Microsoft-Manager jeweils einen besetzen (wie Gerüchten zufolge). Wenn sie nicht einen vielfältigeren Weg einschlagen, was Daniel Colson, Direktor des Think Tanks AI Policy Institute, sagt: hat gesagt Bei
Wir dürfen andere Aspekte nicht außer Acht lassen, wie etwa die technologischen und betrieblichen Kosten von OpenAI, die bereits mehrfach als derzeit und in ihrem Wachstumsprozess nicht nachhaltig bezeichnet wurden. Auch nicht die Tatsache, dass die Menschen, die an einer Technologie beteiligt sind, die dazu bestimmt ist, viele Aspekte von Menschen, Unternehmen, Institutionen und der Gesellschaft zu verändern, teilweise vielfältige Interessen an anderen Geschäftsaktivitäten haben.
Was meiner Meinung nach in diesem Moment vielleicht zum Nachdenken anregt, ist die Tatsache, dass eine Person, begleitet von einer Handvoll anderer und etwa 600 Arbeitern, so viel bewegen kann. Sobald es scheinbar konsolidiert ist, sollte das Gesellschafts-, Wirtschafts-, Geschäfts- und Investitionsmodell widergespiegelt werden.
Dies hat gerade erst begonnen, und wir müssen alle Nachrichten besonders aufmerksam verfolgen, einige Monate warten und eine konsolidierte Analyse durchführen, die es uns ermöglicht, zu erkennen, welcher tatsächliche Weg eingeschlagen wird.
