O poder da OpenAI, a luta que cativou o mundo da tecnologia e dos negócios após a demissão do cofundador Sam Altman parece ter chegado ao fim, pelo menos por enquanto. Mas o que vai acontecer a partir de agora?
Parece quase que alguns elogios são necessários, como se a OpenAI tivesse morrido e uma startup nova, mas não necessariamente melhorada, se encontrasse no meio disso. Altman, ex-presidente da Y Combinator, está de volta ao comando, mas será o seu regresso justificado? O novo conselho da OpenAI teve um início menos diversificado (ou seja, é inteiramente branco e masculino), e os objetivos filantrópicos fundadores da empresa correm o risco de serem restringidos por interesses mais capitalistas.
Isso não quer dizer que o antigo OpenAI fosse perfeito, de forma alguma.
Na manhã de sexta-feira, a OpenAI tinha um conselho de administração de seis pessoas: Altman, o cientista-chefe da OpenAI, Ilya Sutskever, o presidente da OpenAI, Greg Brockman, o empresário de tecnologia Tasha McCauley, o CEO da Quora, Adam D'Angelo, e Helen Toner, diretora do Centro de Segurança de Georgetown. e Tecnologias Emergentes. O conselho estava tecnicamente ligado a uma organização sem fins lucrativos de propriedade maioritária de atores com fins lucrativos, com poder absoluto de tomada de decisão sobre as atividades, investimentos e direção geral sobre a parte com fins lucrativos da OpenAI.
A estrutura incomum da OpenAI foi estabelecida pelos cofundadores da empresa, incluindo Altman, com a melhor das intenções. Os estatutos excepcionalmente breves (500 palavras) da organização sem fins lucrativos descrevem que o conselho deve tomar decisões que garantam “que a inteligência artificial geral beneficie toda a humanidade”, cabendo aos membros do conselho decidir qual é a melhor maneira de interpretar isso. Nem “lucros” nem “receitas” são mencionados neste documento da North Star; toner conforme relatado no WSJ Certa vez, ele disse à equipe executiva de Altman que levar ao colapso da OpenAI “seria realmente consistente com a missão da organização sem fins lucrativos”.
Talvez esse arranjo tivesse funcionado em algum universo paralelo. Durante anos, pareceu funcionar muito bem para OpenAI. Mas quando os investidores e outros parceiros poderosos se envolveram, as coisas tornaram-se… muito mais complicadas.
A demissão de Altman une funcionários da Microsoft e da OpenAI
Depois que o conselho demitiu Altman abruptamente na sexta-feira sem notificar ninguém, incluindo a maior parte da força de trabalho de 770 pessoas da OpenAI, os patrocinadores da startup começaram a expressar seu descontentamento tanto de forma privada quanto pública.
Satya Nadella, CEO da Microsoft, um grande contribuidor da OpenAI, levantou-se presumivelmente “furioso” ao saber da saída de Altman. Vinod Khosla, fundador da Khosla Ventures, outro apoiador da OpenAI, disse no X (antigo Twitter) que o fundo eu queria de volta para Altmann. Enquanto isso, a Thrive Capital, a Khosla Ventures, a Tiger Global Management e a Sequoia Capital estariam considerando uma ação legal contra o conselho se as negociações do fim de semana para reintegrar Altman não corressem como esperado.
Naquela época, os funcionários da OpenAI Eles não estavam alinhados com esses investidores de acordo com as aparências externas. Todos eles, incluindo Sutskever, numa aparente mudança de opinião, assinaram uma carta ameaçando a direcção com demissão em massa se decidissem não reverter a decisão e o rumo. Mas você deve considerar que esses funcionários da OpenAI teriam muito a perder se a OpenAI desmoronasse (ofertas de emprego da Microsoft e Salesforce separado).
A OpenAI estava em negociações, liderada pela Thrive, para possivelmente vender ações aos funcionários, em um movimento que teria aumentado a avaliação da empresa de US$ 29.000 bilhões para entre US$ 80.000 bilhões e US$ 90.000 bilhões. A saída repentina de Altman e o elenco rotativo de CEOs interinos questionáveis da OpenAI criaram grande medo para a Thrive, colocando a venda em risco.
Altman venceu a batalha de cinco dias, mas a que custo?
Agora, depois de vários dias de falta de ar, tensão e notícias de todos os tipos, algum tipo de “resolução” foi alcançada. Altman, juntamente com Brockman, que renunciou na sexta-feira em protesto contra a decisão do conselho, está de volta, embora sujeito a uma investigação de antecedentes sobre as preocupações que precipitaram sua demissão. A OpenAI possui uma nova placa de transição que atende a uma das demandas de Altman. E a OpenAI manterá a sua estrutura, com limites aos lucros dos investidores e liberdade para o conselho tomar decisões que não sejam baseadas nas receitas.
O CEO da Salesforce, Marc Benioff, postou no X que “os mocinhos” venceram. Mas talvez seja prematuro dizer.
Claro, Altman “ganhou”, superando um conselho que o acusou de “não ser consistentemente sincero” com os membros do conselho e, de acordo com alguns relatórios, de colocar o crescimento antes da missão. Num exemplo desta suposta travessura, Altman diz-se que foi criticou Toner por um artigo de sua coautoria que apresentava a abordagem de segurança da OpenAI de uma perspectiva crítica, a ponto de ele tentar expulsá-la do conselho. Em outro, Altman”enfurecido”Para Sutskever enquanto ele provocava o lançamento de recursos baseados em IA na primeira conferência de desenvolvedores OpenAI.
O conselho não deu explicações mesmo após repetidas oportunidades, citando possíveis desafios legais. E é seguro dizer que dispensaram Altman de uma forma desnecessariamente histriónica. Mas não há como negar que os diretores poderiam ter tido razões válidas para dispensar Altman, pelo menos dependendo de como interpretaram a sua diretiva humanista.
Parece provável que o novo conselho interprete essa directiva “humanista” de forma diferente.
Atualmente, o conselho de administração da OpenAI é formada pelo ex-co-CEO da Salesforce, Bret Taylor, D'Angelo (o único remanescente do conselho original) e Larry Summers, economista e ex-presidente de Harvard. Taylor é um "empreendedor empreendedor" e foi cofundador de inúmeras empresas, incluindo FriendFeed (adquirida pelo Facebook) e Quip (através de cuja aquisição ele veio para a Salesforce). Enquanto isso, Summers tem profundas conexões comerciais e governamentais – um trunfo para a OpenAI – provavelmente o pensamento foi levado em conta em sua seleção, num momento em que o escrutínio regulatório da IA está se intensificando.
Contudo, os realizadores não parecem uma “vitória” absoluta para todos os observadores, não se a intenção fosse a diversidade de pontos de vista. Embora ainda restem seis assentos a serem preenchidos, os quatro iniciais estabelecem um tom bastante homogêneo; Na verdade, tal reunião seria ilegal na Europa, onde equipes executivas das empresas reservam pelo menos 40% dos seus assentos nos conselhos de administração para mulheres.
Por que alguns especialistas em IA estão preocupados com o novo conselho da OpenAI
Existem algumas observações decepcionantes. E por outro lado, especialistas, vários acadêmicos de IA recorreram ao X para expressar suas frustrações.
Noah Giansiracusa, professor de matemática na Bentley University e autor de um livro sobre algoritmos de recomendação de mídia social, discorda tanto da composição exclusivamente masculina do conselho quanto da nomeação de Summers, que ele diz ter um histórico de fazer. comentários pouco lisonjeiros sobre mulheres.
“Cualquiera que sea la opinión que uno haga sobre estos incidentes acaecidos, la óptica no es buena, por decirlo suavemente, especialmente para una empresa que ha estado liderando el desarrollo de la IA y remodelando el mundo en el que vivimos”, dijo Giansiracusa por mensagem de texto. “O que considero particularmente preocupante é que o objetivo principal da OpenAI é desenvolver inteligência artificial geral que ‘beneficie toda a humanidade’. Dado que metade da humanidade é composta por mulheres, os acontecimentos recentes não me dão muita confiança a este respeito. O toner representa mais diretamente o lado da segurança da IA, e esta tem sido frequentemente a posição em que as mulheres têm sido colocadas, ao longo da história, mas especialmente na tecnologia: protegendo a sociedade de grandes danos enquanto os homens recebem crédito por inovar e governar o mundo.”
Christopher Manning, diretor do Sanford AI Lab, é um pouco mais caridoso que Giansiracusa, mas concorda com ele em sua avaliação:
“O recém-formado conselho OpenAI provavelmente ainda está incompleto. “No entanto, o atual conselho de administração, que carece de alguém com conhecimentos profundos sobre o uso responsável da IA na sociedade humana e é composto apenas por homens brancos, não é um começo promissor para uma empresa de IA tão grande e influente.”
Estou animado para os funcionários da OpenAI com o retorno de Sam, mas parece muito 2023 que nosso final feliz são três homens brancos em um conselho encarregado de garantir que a IA beneficie toda a humanidade. Esperemos que haja mais por vir em breve. —Ashley Mayer (@ashleymayer) 22 novembro 2023
A desigualdade afeta a indústria de IA, desde gerentes que rotulem os dados usados para treinar modelos de IA generativos com base em preconceitos prejudiciais que frequentemente aparecem nesses modelos treinados, incluindo modelos OpenAI. Verões, para ser justo, Expressou preocupação com as potenciais ramificações prejudiciais da IA, pelo menos no que se refere aos modos de vida. Mas os críticos acham difícil acreditar que um conselho como o atual da OpenAI priorizaria consistentemente esses desafios, pelo menos não da mesma forma que um conselho mais diversificado faria.
Isso levanta a questão: por que a OpenAI não tentou recrutar um conhecido especialista em ética em IA como Timnit Gebru ou Margaret Mitchell para o conselho inicial? “Eles não estavam disponíveis”? Eles recusaram? Ou a OpenAI não fez nenhum esforço inicial? Talvez nunca saberemos.
Como afirmado em X, a OpenAI considerou Laurene Powell Jobs e Marissa Mayer para cargos no conselho, mas elas foram consideradas muito próximas de Altman. Condoleezza Rice também foi proposta, mas acabou ignorada.
A OpenAI tem a chance de provar que é mais sábia e mundana ao selecionar os cinco assentos restantes no conselho – ou três, caso Altman e um executivo da Microsoft ocupem um cada (como tem sido rumores). Se não seguirem um caminho mais diversificado, o que Daniel Colson, diretor do think tank AI Policy Institute, disse em X pode muito bem ser verdade: não se pode confiar em algumas pessoas ou num único laboratório para garantir que a IA seja desenvolvida de forma responsável.
Não devemos esquecer outros aspectos como os custos tecnológicos e operacionais da OpenAI, que têm sido inúmeras vezes mencionados como, actualmente e no seu processo de crescimento, não sustentáveis. Nem o facto de as pessoas envolvidas numa tecnologia que está destinada a mudar muitos aspectos das pessoas, das empresas, das instituições e da sociedade terem interesses, em alguns casos múltiplos, noutras actividades empresariais.
Talvez neste momento o que eu pessoalmente acho que requer reflexão é que uma pessoa, acompanhada por um punhado de outras e cerca de 600 trabalhadores, pode mover tanto a agulha. Uma vez aparentemente consolidado, o modelo de sociedade, económico, empresarial e de investimento deverá refletir.
Isto apenas começou e teremos que estar especialmente atentos a todas as novidades, esperar alguns meses e fazer uma análise consolidada que nos permita ver qual o verdadeiro caminho que está a ser trilhado.
