Spanish English French German Italian Portuguese
marketing social
InícioTecnologiaInteligência artificialAnthropic em busca de uma IA melhor e compreensível

Anthropic em busca de uma IA melhor e compreensível

Há menos de um ano, em 2021, Antrópico foi fundada pelo ex-vice-presidente de pesquisa para OpenAI, Dario Amodei, com a intenção de realizar pesquisas de interesse público para tornar a IA mais confiável e explicável. Seu financiamento de US$ 124 milhões foi incrível na época, mas nada poderia prever a empresa. arrecadaria 580 milhões de dólares menos de um ano depois.

“Com esta angariação de fundos, vamos explorar as propriedades de dimensionamento previsíveis dos sistemas de aprendizado de máquina, enquanto observamos de perto as maneiras imprevisíveis pelas quais os recursos e os problemas de segurança podem surgir à medida que o sistema cresce”, disse Amodei.

Sua irmã Daniela, com quem fundou a corporação de utilidade pública, disse que depois de construir a empresa, “estamos nos concentrando em garantir que Antrópico temos a cultura e a governança para continuar a explorar e desenvolver sistemas de IA seguros com responsabilidade à medida que crescemos. ”

Novamente o termo-chave: crescimento. Porque essa é a categoria do problema que motivou inicialmente Antrópico: como entender melhor os modelos de IA cada vez mais usados ​​em todos os setores à medida que crescem além de nossa capacidade de explicar sua lógica e resultados.

A empresa já publicou vários artigos analisando, por exemplo, a engenharia reversa do comportamento de modelos de linguagem para entender por que e como eles produzem os resultados. Algo parecido GPT-3, provavelmente o modelo de linguagem mais conhecido que existe, é certamente impressionante, mas há algo preocupante no fato de que seu funcionamento interno é essencialmente um mistério até mesmo para seus criadores.

Como o próprio anúncio de financiamento explica:

O objetivo desta pesquisa é desenvolver os componentes técnicos necessários para construir modelos em grande escala que tenham melhores salvaguardas implícitas e requeiram menos intervenções pós-treinamento, bem como desenvolver as ferramentas necessárias para detalhar esses modelos para garantir que o salvaguardas realmente funcionam.

Se você não entende como um sistema de IA funciona, você só pode reagir quando ele faz algo errado, por exemplo, mostra um viés de reconhecimento facial ou tende a desenhar ou descrever homens quando solicitado sobre médicos e CEOs. Esse comportamento é incorporado ao modelo e a solução é filtrar seus resultados em vez de impedir que você tenha essas "noções" erradas em primeiro lugar.

É uma espécie de mudança fundamental na forma em que a IA é construída e compreendida e, como tal, requer grandes cérebros e grandes computadores, nenhum dos quais é barato. Não há dúvida de que $ 124 milhões foi um bom começo, mas aparentemente os primeiros resultados foram promissores o suficiente para Sam Bankman-Fried liderar esta nova rodada enorme, junto com Caroline Ellison, Jim McClave, Nishad Singh, Jaan Tallinn e o Center for Emerging Risk Pesquisa (CERR).

É interessante não ver nenhum dos investidores usuais em tecnologia nesse grupo, mas é claro que a Anthropic não é tem como objetivo lucro, que é um fator decisivo para os investidores de risco.

Passado Investigações antrópicas podem ser acompanhadas aqui.

RELACIONADO

INSCREVA-SE NO TRPLANE.COM

Publicar no TRPlane.com

Se você tiver alguma história interessante sobre transformação, TI, digital, etc. com um lugar no TRPlane.com, envie para nós e compartilharemos com toda a Comunidade.

MAIS PUBLICAÇÕES

Ativar notificações OK Sem gracias