La potenza di OpenAI, la lotta che ha appassionato il mondo della tecnologia e degli affari dopo il licenziamento del co-fondatore Sam Altman, sembra essere giunta al termine, almeno per il momento. Ma cosa succederà da ora in poi?
Sembra quasi che ci sia bisogno di qualche elogio, come se OpenAI fosse morta e una nuova startup, ma non necessariamente migliorata, si fosse trovata nel mezzo. Altman, ex presidente di Y Combinator, è tornato al timone, ma il suo ritorno è giustificato? Il nuovo consiglio di amministrazione di OpenAI parte da un inizio meno diversificato (vale a dire, è interamente bianco e maschile) e gli obiettivi filantropici della società rischiano di essere ridotti da interessi più capitalisti.
Questo non vuol dire in alcun modo che il vecchio OpenAI fosse perfetto.
A partire da venerdì mattina, OpenAI aveva un consiglio di amministrazione composto da sei persone: Altman, il capo scienziato di OpenAI Ilya Sutskever, il presidente di OpenAI Greg Brockman, l'imprenditrice tecnologica Tasha McCauley, il CEO di Quora Adam D'Angelo e Helen Toner, direttrice del Centro per la sicurezza di Georgetown. e tecnologie emergenti. Il consiglio era tecnicamente legato a un'organizzazione no-profit posseduta in maggioranza da attori for-profit, con potere decisionale assoluto sulle attività, sugli investimenti e sulla direzione generale sulla parte for-profit di OpenAI.
L'insolita struttura di OpenAI è stata creata dai cofondatori dell'azienda, incluso Altman, con le migliori intenzioni. Lo statuto eccezionalmente breve (500 parole) dell'organizzazione no-profit descrive che il consiglio deve prendere decisioni che garantiscano "che l'intelligenza artificiale generale avvantaggi tutta l'umanità", lasciando ai membri del consiglio la decisione su quale sia il modo migliore per interpretarlo. Né i “profitti” né i “redditi” sono menzionati in questo documento della Stella Polare; tonico come riportato dal WSJ Una volta disse al team esecutivo di Altman che portare al collasso di OpenAI "sarebbe effettivamente coerente con la missione dell'organizzazione no-profit".
Forse questa disposizione avrebbe funzionato in qualche universo parallelo. Per anni sembrava funzionare abbastanza bene per OpenAI. Ma una volta coinvolti gli investitori e altri partner potenti, le cose sono diventate... molto più complicate.
Il licenziamento di Altman unisce i dipendenti Microsoft e OpenAI
Dopo che il consiglio di amministrazione ha licenziato improvvisamente Altman venerdì senza avvisare nessuno, inclusa la maggior parte dei 770 dipendenti di OpenAI, i sostenitori della startup hanno iniziato a esprimere il loro malcontento sia in privato che in pubblico.
Satya Nadella, CEO di Microsoft, uno dei principali contributori di OpenAI, si è alzato presumibilmente “furioso” dopo aver appreso della partenza di Altman. Vinod Khosla, fondatore di Khosla Ventures, un altro sostenitore di OpenAI, ha dichiarato su X (ex Twitter) che il fondo Volevo tornare indietro ad Altmann. Nel frattempo, si dice che Thrive Capital, Khosla Ventures, Tiger Global Management e Sequoia Capital stiano contemplando un'azione legale contro il consiglio di amministrazione se le trattative del fine settimana per reintegrare Altman non fossero andate come previsto.
A quel tempo, i dipendenti di OpenAI Non erano allineati con questi investitori secondo le apparenze esterne. Tutti loro, incluso Sutskever, in un evidente cambiamento di opinione, hanno firmato una lettera in cui minacciavano il consiglio di dimissioni di massa se avessero scelto di non invertire la decisione e il corso. Ma bisogna considerare che questi dipendenti di OpenAI avrebbero molto da perdere se OpenAI andasse in pezzi (le offerte di lavoro di Microsoft e Salesforce a parte).
OpenAI era in trattative, guidate da Thrive, per vendere eventualmente azioni ai dipendenti in una mossa che avrebbe aumentato la valutazione dell'azienda da 29.000 miliardi di dollari a un valore compreso tra 80.000 e 90.000 miliardi di dollari. L'improvvisa partenza di Altman e il cast di discutibili amministratori delegati ad interim di OpenAI hanno creato non poca paura per Thrive, mettendo a repentaglio la vendita.
Altman vinse la battaglia durata cinque giorni, ma a quale costo?
Ora, dopo diversi giorni di affanno, tensione e notizie di ogni genere, una sorta di “risoluzione” è stata raggiunta. Altman, insieme a Brockman, che si è dimesso venerdì per protestare contro la decisione del consiglio, è tornato, sebbene soggetto a un'indagine di fondo sulle preoccupazioni che hanno accelerato la sua estromissione. OpenAI ha una nuova scheda di transizione che soddisfa una delle richieste di Altman. E secondo quanto riferito, OpenAI manterrà la sua struttura, con limiti sui profitti degli investitori e libertà per il consiglio di prendere decisioni non basate sulle entrate.
Il CEO di Salesforce, Marc Benioff, ha pubblicato su X che "i bravi ragazzi" hanno vinto. Ma forse è prematuro dirlo.
Certo, Altman “ha vinto”, superando un consiglio che lo accusava di “non essere costantemente sincero” con i membri del consiglio e, secondo alcuni rapporti, di anteporre la crescita alla missione. In un esempio di questo presunto danno, Altman si dice che lo fosse ha criticato Toner per un articolo di cui è coautrice che presentava l'approccio alla sicurezza di OpenAI da una prospettiva critica, al punto che ha tentato di estrometterla dal consiglio. In un altro, Altman”infuriato" a Sutskever mentre anticipava il lancio di funzionalità basate sull'intelligenza artificiale alla prima conferenza degli sviluppatori OpenAI.
Il consiglio non ha fornito spiegazioni nemmeno dopo ripetute opportunità, citando possibili ricorsi legali. E si può dire con certezza che hanno liquidato Altman in modo inutilmente istrionico. Ma non si può negare che i registi avrebbero potuto avere valide ragioni per lasciare andare Altman, almeno a seconda di come avrebbero interpretato la sua direttiva umanista.
Sembra probabile che il nuovo consiglio interpreterà diversamente quella direttiva “umanista”.
Attualmente, il consiglio di amministrazione di OpenAI lo è formato dall'ex co-CEO di Salesforce Bret Taylor, D'Angelo (l'unico residuo del consiglio originale) e Larry Summers, economista ed ex presidente di Harvard. Taylor è un "imprenditore dell'imprenditore" e ha co-fondato numerose aziende, tra cui FriendFeed (acquisita da Facebook) e Quip (tramite la cui acquisizione è arrivato a Salesforce). Summers, nel frattempo, ha profondi legami con gli affari e con il governo – una risorsa per OpenAI – probabilmente ha pensato alla sua selezione, in un momento in cui il controllo normativo sull’intelligenza artificiale si sta intensificando.
Tuttavia, i registi non sembrano una “vittoria” assoluta a tutti gli osservatori, non se l'intenzione era la diversità di punti di vista. Anche se restano da assegnare sei seggi, i primi quattro danno un tono abbastanza omogeneo; In effetti, un simile incontro sarebbe illegale in Europa, dove squadre esecutive delle aziende riserva almeno il 40% dei posti nei consigli di amministrazione alle donne.
Perché alcuni esperti di intelligenza artificiale sono preoccupati per il nuovo consiglio di amministrazione di OpenAI
Ci sono alcune osservazioni deluse. E d’altra parte, gli specialisti, diversi accademici dell’IA si sono rivolti a X per esprimere le loro frustrazioni.
Noah Giansiracusa, professore di matematica alla Bentley University e autore di un libro sugli algoritmi di raccomandazione dei social media, contesta sia la composizione tutta maschile del consiglio sia la nomina di Summers, che secondo lui ha una storia di fare commenti poco lusinghieri sulle donne.
"Qualunque sia l'opinione di questi incidenti, le prospettive non sono buone, per usare un eufemismo, soprattutto per un'azienda che ha guidato lo sviluppo dell'intelligenza artificiale e ha rimodellato il mondo in cui viviamo", ha detto Giansiracusa per messaggio di testo. "Ciò che trovo particolarmente preoccupante è che l'obiettivo primario di OpenAI è sviluppare un'intelligenza artificiale generale che 'va a beneficio di tutta l'umanità.' Dato che metà dell’umanità è composta da donne, gli avvenimenti recenti non mi danno molta fiducia al riguardo. Il toner rappresenta più direttamente il lato sicurezza dell’intelligenza artificiale, e questa è stata spesso la posizione in cui sono state collocate le donne, nel corso della storia ma soprattutto nella tecnologia: proteggere la società da grandi danni mentre agli uomini viene riconosciuto il merito di aver innovato e governato il mondo”.
Christopher Manning, direttore del Sanford AI Lab, è un po' più caritatevole di Giansiracusa, ma è d'accordo con lui nella sua valutazione:
“Il consiglio di amministrazione di OpenAI appena formato è presumibilmente ancora incompleto. “Tuttavia, l’attuale consiglio di amministrazione, in cui manca qualcuno con una conoscenza approfondita dell’uso responsabile dell’intelligenza artificiale nella società umana ed è composto esclusivamente da uomini bianchi, non è un inizio promettente per un’azienda di intelligenza artificiale così grande e influente”.
Sono entusiasta per i dipendenti di OpenAI che Sam sia tornato, ma sembra proprio del 2023 che il nostro lieto fine sia rappresentato da tre uomini bianchi in un consiglio incaricato di garantire che l'intelligenza artificiale avvantaggi tutta l'umanità. Speriamo che ci sia altro in arrivo presto. —Ashley Mayer (@ashleymayer) 22 Novembre 2023.
La disuguaglianza colpisce il settore dell’intelligenza artificiale, a partire da manager che etichettano i dati utilizzati per addestrare modelli di intelligenza artificiale generativa sulla base di pregiudizi dannosi che spesso compaiono in tali modelli addestrati, compresi i modelli OpenAI. Le estati, per essere onesti, ha espresso preoccupazione per le potenziali ramificazioni dannose dell’intelligenza artificiale, almeno per quanto riguarda i modi di vivere. Ma i critici trovano difficile credere che un consiglio come quello attuale di OpenAI dia costantemente priorità a queste sfide, almeno non nel modo in cui farebbe un consiglio più diversificato.
Sorge la domanda: perché OpenAI non ha provato a reclutare un noto esperto di etica dell'intelligenza artificiale come Timnit Gebru o Margaret Mitchell nel consiglio iniziale? “Non erano disponibili”? Si sono rifiutati? Oppure OpenAI non ha fatto alcuno sforzo iniziale? Forse non lo sapremo mai.
Come affermato in X, OpenAI ha preso in considerazione Laurene Powell Jobs e Marissa Mayer per posizioni nel consiglio di amministrazione, ma sono state considerate troppo vicine ad Altman. È stata proposta anche Condoleeza Rice, ma alla fine è stata ignorata.
OpenAI ha la possibilità di dimostrarsi più saggia e più mondana selezionando i restanti cinque posti nel consiglio di amministrazione – o tre, nel caso in cui Altman e un dirigente Microsoft ne occupassero uno ciascuno (come si dice). Se non intraprenderanno un percorso più diversificato, quello che dice Daniel Colson, direttore dell'AI Policy Institute, think tank ha detto at X potrebbe essere vero: non ci si può fidare di poche persone o di un singolo laboratorio per garantire che l’intelligenza artificiale venga sviluppata in modo responsabile.
Non dobbiamo dimenticare altri aspetti come i costi tecnologici e operativi di OpenAI, più volte citati come, attualmente e nel suo processo di crescita, non sostenibili. Né il fatto che i soggetti coinvolti in una tecnologia destinata a cambiare molti aspetti delle persone, delle aziende, delle istituzioni e della società abbiano interessi, in alcuni casi molteplici, in altre attività imprenditoriali.
Forse in questo momento, quello che personalmente penso richieda una riflessione è che una persona, accompagnata da una manciata di altre e da circa 600 lavoratori, può muovere così tanto l’ago della bilancia. Una volta apparentemente consolidato, il modello sociale, economico, imprenditoriale e di investimento dovrebbe riflettersi.
Tutto questo è appena cominciato e bisognerà prestare particolare attenzione a tutte le novità, aspettare qualche mese e fare un'analisi consolidata che ci permetta di vedere quale sia la vera strada che si sta seguendo.
