O ChatGPT pode ser um 'vírus que foi lançado'?

Naquela época, Altman descreveu o potencial de OpenAI em linguagem que soava estranha para alguns. Altman disse, por exemplo, que a oportunidade com inteligência geral artificial – inteligência de máquina que pode resolver problemas tão bem quanto um ser humano – é tão incompreensivelmente enorme que se OpenAI Se ele conseguisse decifrá-lo, a equipe poderia "talvez capturar todos os valores futuros do universo". Ele disse que a empresa "terá que não publicar pesquisas" porque é muito poderosa. Quando perguntado se OpenAI culpado de instilar medo, Elon Musk, co-fundador da equipe, pediu repetidamente a todas as organizações que desenvolvem IA para regular — Altman falou sobre os perigos de não pensando nas "consequências sociais" quando "você está construindo algo com uma curva exponencial".

O público riu em vários pontos da conversa, sem saber o quão sério deveria levar Altman. No entanto, agora ninguém ri mais. Embora as máquinas ainda não sejam tão inteligentes quanto as pessoas, o tecnologia que OpenAI lançou para o mundo desde então está perto o suficiente para alguns críticos temerem que possa ser nossa ruína (e uma tecnologia ainda mais sofisticada está a caminho).

Na verdade, embora os usuários pesados ​​digam que não tão inteligente el ChatGPT, modelo que OpenAI disponibilizado ao público em geral na semana passada, é tão capaz de responder pVocê pergunta como pessoa, que os profissionais em uma variedade de setores estão lutando para processar as implicações. Os educadores, por exemplo, se perguntam como serão capazes de distinguir a redação original das redações geradas por algoritmos que devem receber, e isso pode evitar a software antiplágio.

Paul Kedrosky não é um educador per se, ele é um economista, capitalista de risco e membro do MIT que se autodenomina um "normal frustrado com uma tendência a pensar sobre riscos e consequências não intencionais em sistemas complexos". Mas ele está entre aqueles que de repente estão preocupados com nosso futuro coletivo, e Twitter Ele comentou: "Que pena OpenAI jogou esta bomba nuclear de bolso desenfreada em uma sociedade que não estava pronta”. Kedrosky escreveu: “Obviamente, sinto que o ChatGPT (e seus semelhantes) deve ser retirado imediatamente. E, se alguma vez for reintroduzido, apenas com restrições estritas."

Sobre algumas das preocupações de Kedrosky e por que ele pensa OpenAI está conduzindo o que acredita ser a "mudança mais perturbadora que a economia dos EUA já viu em 100 anos", e não de um jeito bom.

Pergunta: ChatGPT para o mercado. O que provocou sua reação no Twitter?

PK: Eu brinquei com essas interfaces de usuário conversacionais e serviços de IA no passado e isso é obviamente um grande salto adiante. E o que me preocupou aqui em particular é a brutalidade casual disso, com consequências massivas para uma série de atividades diferentes. Eles não são apenas os óbvios, como a redação do ensino médio, mas em quase todos os domínios onde existe uma gramática, ou seja, uma forma organizada de se expressar. Isso pode ser engenharia de software, redações do ensino médio, documentos legais. Todos eles são facilmente comidos por esta fera voraz e cuspidos novamente sem compensação para o que quer que tenha sido usado para treiná-lo.

Eu ouvi de um colega da UCLA que me disse que eles não têm ideia do que fazer com as redações no final do período atual, onde recebem centenas por curso e milhares por departamento, porque não têm mais ideia do que é falso e o que não é. Então, fazer isso tão casualmente, como alguém me disse hoje, é uma reminiscência do chamado hacker de chapéu branco que encontra um bug em um produto amplamente usado e o relata ao desenvolvedor antes que o público em geral saiba, para que o desenvolvedor possa corrigir seu produto e não temos devastação em massa e redes elétricas caem. É o oposto, onde um vírus foi liberado na natureza sem preocupação com as consequências.

Pergunta: Você se sente como se pudesse comer o mundo.

Alguns podem dizer: 'Bem, foi da mesma forma quando a automação chegou às fábricas de automóveis e os operários ficaram desempregados? Mas isso é muito diferente. Essas tecnologias de aprendizagem específicas são autocatalisadoras; eles estão aprendendo com os pedidos. Assim, os robôs de uma fábrica, embora perturbadores e com consequências econômicas incríveis para as pessoas que ali trabalham, não se viraram e começaram a absorver tudo o que acontecia dentro da fábrica, movendo setor por setor, enquanto isso não é exatamente o que podemos esperar, pode acontecer.

Pergunta: Musk saiu OpenAI parcialmente por desentendimentos sobre o desenvolvimento da empresa, disse ele em 2019, e há muito fala sobre a IA como uma ameaça existencial. Mas as pessoas reclamavam que ele não sabia do que estava falando. Agora nos deparamos com essa tecnologia poderosa e não está claro quem está entrando em cena para lidar com isso.

Acho que vai começar em vários locais ao mesmo tempo, a maioria dos quais será muito desajeitada, e as pessoas vão tirar sarro deles. Mas, infelizmente, nos metemos em algo com consequências de longo alcance. Então, da mesma forma que a FTC exigia que as pessoas que blogavam anos atrás tivessem links de afiliados e ganhassem dinheiro com eles, acho que em um nível trivial, as pessoas serão forçadas a revelar que não escrevemos nada disso. Isso tudo é gerado por uma máquina'.

Também acredito que veremos novos argumentos para a processo em andamento contra a Microsoft e OpenAI por violação de direitos autorais no contexto de nossos algoritmos de aprendizado de máquina de treinamento. Acho que haverá um problema maior do que o DMCA (Digital Millennium Copyright Act, 1998) em relação a esse serviço.

E acho que há potencial para ações judiciais e acordos parciais sobre as consequências dos serviços, que, como você sabe, provavelmente vão demorar muito e não ajudarão pessoas suficientes, mas não vejo como não vamos acabar com essas tecnologias.

Pergunta: Qual é o pensamento do MIT?

Andy McAfee e seu grupo são mais otimistas e têm uma visão mais ortodoxa de que toda vez que vemos disrupção, outras oportunidades são criadas, as pessoas são móveis, mudando de lugar para lugar e ocupação para ocupação, e não devemos ser tão teimosos a ponto de acreditar que esta evolução particular da tecnologia é aquela em torno da qual não podemos sofrer mutações e migrar. E eu acho que isso geralmente é verdade.

Mas a lição dos últimos cinco anos em particular foi que essas mudanças podem levar muito tempo. O livre comércio, por exemplo, é uma daquelas experiências incrivelmente perturbadoras para toda a economia, e todos nós, como economistas observando isso, dissemos a nós mesmos que a economia se adaptaria e as pessoas em geral se beneficiariam com os preços mais baixos. O que ninguém previa era que alguém organizaria todo o povo revoltado e elegeria Donald Trump. Portanto, existe essa ideia de que podemos antecipar e prever quais serão as consequências, mas não podemos.

Pergunta: Você comentou sobre escrever redações para o ensino médio e a faculdade. Os teóricos já foram questionados se seria plágio usar o ChatGPT para escrever um artigo.

O objetivo de escrever um ensaio é mostrar que você pode pensar, então isso causa um curto-circuito no processo e anula o propósito. Mais uma vez, em termos de consequências e externalidades, se não podemos deixar as pessoas fazerem o dever de casa porque não sabemos mais se estão colando ou não, isso significa que tudo tem que acontecer na sala de aula e tem que ser supervisionado. Não pode haver nada para levarmos para casa. Mais coisas precisam ser feitas oralmente, e o que isso significa? Significa que a escola é muito mais cara, muito mais trabalhada, muito menor, e no exato momento estamos tentando fazer o contrário. As consequências para o ensino superior são devastadoras em termos da própria prestação de um serviço.

O que você acha da ideia de renda básica universal, ou permitir que todos participem do ganhos da IA?

Sou um defensor muito menos forte do que era antes do COVID. A razão é que a COVID, de certa forma, foi um experimento com uma renda básica universal. Pagamos as pessoas para ficarem em casa e elas inventaram QAnon. Então, estou muito nervoso com o que acontece quando as pessoas não precisam entrar em um carro, dirigir para algum lugar, fazer um trabalho que odeiam e voltar para casa novamente, porque o diabo encontra trabalho para mãos ociosas, e haverá muito de mãos ociosas e muito dano.