Sam Altman poco dopo essersi dimesso dalla carica di presidente di Y Combinator è diventato CEO della società di intelligenza artificiale che ha co-fondato nel 2015 con Elon Musk e altri, OpenAI.
A quel tempo, Altman ha descritto il potenziale di OpenAI in un linguaggio che ad alcuni suonava strano. Altman ha affermato, ad esempio, che l'opportunità con l'intelligenza generale artificiale - intelligenza artificiale in grado di risolvere i problemi come un essere umano - è così incomprensibilmente enorme che se OpenAI Se riuscisse a decifrarlo, il team potrebbe "forse catturare tutti i valori futuri dell'universo". Ha detto che la società "non dovrà pubblicare ricerche" perché è così potente. Alla domanda se OpenAI colpevole di instillare paura, Elon Musk, il co-fondatore del team, ha ripetutamente invitato tutte le organizzazioni che sviluppano l'intelligenza artificiale a regolare - Altman ha parlato dei pericoli di no pensando alle "conseguenze sociali" quando "costruisci qualcosa con una curva esponenziale".
Il pubblico ha riso in vari punti della conversazione, incerto su quanto seriamente prendere Altman. Tuttavia, ora nessuno ride più. Sebbene le macchine non siano ancora intelligenti come le persone, il tecnologia che OpenAI è stato rilasciato al mondo da allora è abbastanza vicino da far temere ad alcuni critici che potrebbe essere la nostra rovina (e secondo quanto riferito, è in arrivo una tecnologia ancora più sofisticata).
In effetti, anche se gli utenti pesanti lo dicono non così intelligente el ChatGPT, modellalo OpenAI messa a disposizione del grande pubblico la scorsa settimana, è così in grado di rispondere pChiedi come persona, che i professionisti in una varietà di settori stiano lottando per elaborare le implicazioni. Gli educatori, ad esempio, si chiedono come saranno in grado di distinguere la scrittura originale dai saggi generati algoritmicamente che devono ricevere, e che possono evitare il software antiplagio.
Paul Kedrosky non è un educatore di per sé, è un economista, un venture capitalist e un collega del MIT che si definisce un "normale frustrato con un debole per pensare ai rischi e alle conseguenze indesiderate nei sistemi complessi". Ma è tra coloro che improvvisamente sono preoccupati per il nostro futuro collettivo, en Twitter Ha commentato: "Peccato OpenAI ha sganciato questa sfrenata bomba nucleare tascabile su una società che non era pronta”. Kedrosky ha scritto: “Ovviamente ritengo che ChatGPT (e i suoi simili) debbano essere ritirati immediatamente. E, se mai verrà reintrodotto, solo con rigide restrizioni".
Su alcune delle preoccupazioni di Kedrosky e perché pensa OpenAI sta guidando quello che crede sia il "cambiamento più dirompente che l'economia statunitense abbia visto in 100 anni" e non in senso positivo.
Domanda: ChatGPT al mercato. Cosa ha scatenato la tua reazione su Twitter?
PK: Ho giocato con queste interfacce utente conversazionali e servizi di intelligenza artificiale in passato e questo è ovviamente un grande salto in avanti. E ciò che mi ha preoccupato qui in particolare è la brutalità casuale di ciò, con enormi conseguenze per una serie di attività diverse. Non sono solo quelli ovvi, come la scrittura di saggi al liceo, ma in quasi tutti i domini in cui esiste una grammatica, cioè un modo organizzato di esprimersi. Potrebbe essere ingegneria del software, saggi di scuola superiore, documenti legali. Tutti loro vengono facilmente mangiati da questa bestia famelica e sputati di nuovo senza alcun compenso per ciò che è stato usato per addestrarla.
Ho sentito da un collega dell'UCLA che mi ha detto che non hanno idea di cosa fare con i saggi alla fine dell'attuale trimestre, dove ottengono centinaia per corso e migliaia per dipartimento, perché non hanno più idea di cosa sia falso e cosa non lo è. Quindi farlo in modo così casuale, come qualcuno mi ha detto oggi, ricorda un cosiddetto hacker cappello bianco che trova un bug in un prodotto ampiamente utilizzato, quindi lo segnala allo sviluppatore prima che il pubblico lo sappia in modo che lo sviluppatore possa correggere il tuo prodotto e non abbiamo devastazioni di massa e interruzioni delle reti elettriche. Questo è l'opposto, dove un virus è stato rilasciato in natura senza preoccuparsi delle conseguenze.
Domanda: Ti senti come se potessi mangiare il mondo.
Qualcuno potrebbe dire: "Bene, è stato lo stesso quando l'automazione è arrivata negli stabilimenti automobilistici e gli operai sono stati licenziati?" Ma questo è molto diverso. Queste specifiche tecnologie di apprendimento sono auto-catalizzanti; stanno imparando dalle richieste. Quindi i robot in un impianto di produzione, sebbene dirompenti e creassero incredibili conseguenze economiche per le persone che vi lavorano, non si sono limitati a voltarsi e hanno iniziato ad assorbire tutto ciò che accadeva all'interno della fabbrica, spostandosi settore per settore, mentre non è esattamente quello che possiamo aspettarci, può succedere.
Domanda: Musk se n'è andato OpenAI parzialmente da disaccordi sullo sviluppo dell'azienda, ha affermato nel 2019, e ha parlato a lungo dell'IA come di una minaccia esistenziale. Ma la gente si lamentava che non sapeva di cosa stesse parlando. Ora ci troviamo di fronte a questa potente tecnologia e non è chiaro chi intervenga per affrontarla.
Penso che inizierà in molti luoghi contemporaneamente, la maggior parte dei quali sarà molto goffa e la gente li prenderà in giro. Ma purtroppo, siamo finiti in qualcosa con conseguenze di vasta portata. Quindi, nello stesso modo in cui la FTC ha richiesto alle persone che hanno scritto sul blog anni fa di avere link di affiliazione e guadagnare da loro, penso che a livello banale, le persone saranno costrette a rivelare che non abbiamo scritto nessuna di queste cose. Tutto questo è generato da una macchina'.
Credo anche che vedremo nuovi argomenti per il processo in corso contro Microsoft e OpenAI per violazione del copyright nel contesto dei nostri algoritmi di apprendimento automatico. Penso che ci sarà un problema più grande del DMCA (Digital Millennium Copyright Act, 1998) riguardo a questo servizio.
E penso che ci sia il potenziale per azioni legali e accordi parziali riguardanti le conseguenze dei servizi, che, come sai, probabilmente richiederanno troppo tempo e non aiuteranno abbastanza persone, ma non vedo come non avremo finito con queste tecnologie.
Domanda: Qual è il pensiero al MIT?
Andy McAfee e il suo gruppo sono più ottimisti e hanno una visione più ortodossa che ogni volta che vediamo un'interruzione, vengono create altre opportunità, le persone sono mobili, si spostano da un posto all'altro e da un'occupazione all'altra, e non dovremmo essere così testardi da credere che questa particolare evoluzione della tecnologia è quella attorno alla quale non possiamo mutare e migrare. E penso che sia generalmente vero.
Ma la lezione degli ultimi cinque anni in particolare è stata che questi cambiamenti possono richiedere molto tempo. Il libero scambio, ad esempio, è una di quelle esperienze incredibilmente dirompenti per l'intera economia, e tutti ci siamo detti come economisti guardando questo che l'economia si adatterà e le persone in generale beneficeranno di prezzi più bassi. Quello che nessuno si aspettava era che qualcuno avrebbe organizzato tutte le persone arrabbiate ed eletto Donald Trump. Quindi c'è questa idea che possiamo anticipare e prevedere quali saranno le conseguenze, ma non possiamo.
Domanda: Hai commentato la scrittura di saggi per il liceo e l'università. Ai teorici è già stato chiesto se sarebbe un plagio utilizzare ChatGPT per scrivere un articolo.
Lo scopo di scrivere un saggio è mostrare che puoi pensare, quindi questo cortocircuita il processo e vanifica lo scopo. Ancora una volta, in termini di conseguenze ed esternalità, se non possiamo lasciare che le persone abbiano i compiti perché non sappiamo più se stanno imbrogliando o no, significa che tutto deve avvenire in classe e deve essere supervisionato. Non ci può essere niente da portare a casa. Più cose devono essere fatte oralmente, e cosa significa? Significa che la scuola è molto più costosa, molto più artigianale, molto più piccola, e nel momento esatto stiamo cercando di fare il contrario. Le conseguenze per l'istruzione superiore sono devastanti in termini di effettiva erogazione di un servizio.
Cosa ne pensi dell'idea di un reddito di base universale o di consentire a tutti di partecipare al guadagni dell'IA?
Sono un sostenitore molto meno forte di quanto non fossi prima di COVID. Il motivo è che COVID, in un certo senso, è stato un esperimento con un reddito di base universale. Abbiamo pagato le persone per restare a casa e loro si sono inventate QAnon. Quindi sono molto nervoso per quello che succede quando le persone non devono salire in macchina, guidare da qualche parte, fare un lavoro che odiano e tornare a casa, perché il diavolo trova lavoro per le mani oziose, e ci saranno un sacco di it. di mani oziose e molta malizia.
