Em junho passado, poucos meses após o lançamento do ChatGPT da OpenAI, dois advogados da cidade de Nova York usaram a ferramenta de forma infame. escreva um resumo muito pobre. A IA citou casos falsos, causando alvoroço, um juiz furioso e dois advogados muito envergonhados. Foi a prova de que, embora bots como o ChatGPT possam ser úteis, é realmente necessário verificar o seu trabalho com cuidado, especialmente num contexto jurídico.
O caso não escapou ao pessoal da LexisNexis, uma empresa de software jurídico que oferece ferramentas para ajudar os advogados a encontrar a jurisprudência certa para apresentar seus argumentos jurídicos. A empresa vê o potencial da IA para ajudar a reduzir grande parte do trabalho jurídico mundano que cada advogado realiza, mas também reconhece estes problemas muito reais à medida que inicia a sua jornada generativa de IA.
Jeff Reihl, CTO da LexisNexis, entende o valor da IA. Na verdade, sua empresa já incorpora tecnologia em sua plataforma há algum tempo. Mas ser capaz de adicionar funcionalidades semelhantes ao ChatGPT à sua caixa de ferramentas jurídicas ajudaria os advogados a trabalhar com mais eficiência: ajudaria na redação resumida e na localização de citações com mais rapidez.
“Nós, como organização, temos trabalhando com tecnologias de inteligência artificial por muitos anos. “Acho que o que é realmente diferente agora, desde o lançamento do ChatGPT em novembro, é a oportunidade de gerar texto e os aspectos de conversação que acompanham esta tecnologia”, disse Reihl.
E embora ele veja que isso pode ser uma camada poderosa no topo da família LexisNexis de software jurídico, também traz riscos. “Com a IA generativa, acho que estamos realmente vendo o poder e as limitações dessa tecnologia, o que ela pode ou não fazer bem”, disse ele. “E é aqui que pensamos que, ao reunir as nossas capacidades que temos e os dados que temos, juntamente com as capacidades que estes grandes modelos de linguagem têm, podemos fazer algo que é fundamentalmente transformador para a indústria jurídica”.
A pesquisa diz...
A LexisNexis entrevistou recentemente 1.000 advogados sobre o potencial da IA generativa para sua profissão. Os dados mostraram que a maioria das pessoas foi positiva, mas também revelou que os advogados reconhecem as fraquezas da tecnologia, e isso está a moderar algum do entusiasmo em relação a ela.
Por exemplo, quando questionados sobre o impacto percebido da IA generativa na sua profissão, 46% responderam com uma resposta bastante morna: “algum impacto”. Mas a segunda resposta mais elevada, com 38%, foi “impacto significativo”. Agora, essas são opiniões subjetivas de como eles poderiam usar uma tecnologia que ainda está sendo avaliada e sendo alardeada com muito entusiasmo, mas os resultados mostram que a maioria dos advogados entrevistados pelo menos vê o potencial da IA generativa para ajudar. Eles fazem seu trabalho.
Tenha em mente que sempre há espaço para preconceitos em termos de tipos de perguntas e interpretações de dados quando se trata de pesquisas realizadas por fornecedores, mas os dados são úteis para ver em termos gerais como os advogados pensam sobre a tecnologia.
Pergunta da pesquisa de advogados LexisNexis que explora o impacto percebido da IA na prática do direito.
Créditos da imagem: LexisNexis
Uma das principais questões aqui é confiar nas informações que você obtém do bot, e a LexisNexis está trabalhando em várias maneiras de construir confiança nos resultados do usuário.
Resolva problemas conhecidos de IA
A questão da confiança é algo que todos os utilizadores de IA generativa irão encontrar, pelo menos por enquanto, mas Reihl diz que a sua empresa reconhece o que está em jogo para os seus clientes.
“Dado o seu papel e o que fazem como profissão, o que fazem tem que ser 100% preciso”, disse ele. "Eles precisam ter certeza de que, se citarem um caso, ele ainda será uma boa lei e representará seus clientes da maneira correta."
“Se eles não representarem seus clientes da melhor maneira, poderão ser expulsos. E temos um histórico de poder fornecer informações confiáveis aos nossos clientes.”
Sebastian Berns, pesquisador PhD da Queen Mary University of London, disse que qualquer LLM implementado causará alucinações. Não há como escapar disso.
“Um LLM normalmente é treinado para sempre produzir um resultado, mesmo quando a entrada é muito diferente dos dados de treinamento”, disse ele. “Um LLM padrão não tem como saber se é capaz de responder de forma confiável a uma consulta ou fazer uma previsão.”
A LexisNexis está tentando mitigar esse problema de várias maneiras. Para começar, envolve modelos de treinamento com seu próprio vasto conjunto de dados jurídicos para compensar alguns dos problemas de confiabilidade que vimos em modelos fundamentais. Reihl afirma que a empresa também está trabalhando com a jurisprudência mais atual nos bancos de dados, para que não haja problemas de timing como no ChatGPT, que só treinará com informações da web aberta até 2021.
A empresa acredita que o uso de dados de treinamento mais relevantes e oportunos deverá produzir melhores resultados. “Podemos garantir que qualquer caso referenciado esteja em nosso banco de dados, por isso não publicaremos uma citação que não seja um caso real porque já temos esses casos em nosso próprio banco de dados.”
Embora não esteja claro se alguma empresa pode eliminar completamente as alucinações, a LexisNexis está permitindo que os advogados que usam o software observem o robô encontrar a resposta, fornecendo uma referência à fonte.
“Assim, podemos resolver as limitações que os grandes modelos de linguagem têm, combinando o poder que eles têm com a nossa tecnologia e fornecendo aos usuários referências do caso para que eles próprios possam validá-lo”, disse Reihl.
É importante observar que este é um trabalho em andamento e a LexisNexis está trabalhando com seis clientes no momento para refinar a abordagem com base em seus comentários. O plano é lançar ferramentas baseadas em IA nos próximos meses.
