Quando somos crianças, podemos responder a problemas de matemática do ensino fundamental simplesmente completando as respostas.
Mas quando o trabalho não era “demonstrado”, os professores descontavam pontos; a resposta correta não valia muito sem uma explicação. No entanto, esses elevados padrões de explicabilidade em longas divisões, de alguma forma, não parecem aplicar-se aos sistemas de IA, mesmo aqueles que tomam decisões cruciais que têm impacto em vidas.
Os principais players de IA que estão nas manchetes de hoje e alimentam o frenesi do mercado de ações (OpenAI, Google, Microsoft) operam suas plataformas em modelos caixa preta. Uma consulta entra por um lado e uma resposta sai por outro, mas não temos ideia de quais dados ou raciocínio a IA usou para fornecer essa resposta.
A maioria dessas plataformas de IA de caixa preta são baseadas em uma estrutura tecnológica de décadas chamada “rede neural”. Esses modelos de IA são representações abstratas das grandes quantidades de dados com os quais são treinados; Eles não estão diretamente conectados aos dados de treinamento. Portanto, as IAs de caixa preta inferem e extrapolam com base no que acreditam ser a resposta mais provável, e não em dados reais.
Às vezes, esse complexo processo preditivo fica fora de controle e a IA “enlouquece”. Por natureza, a IA de caixa preta é inerentemente indigna de confiança porque não pode ser responsabilizada pelas suas ações.. Se você não consegue ver por que ou como a IA faz uma previsão, não tem como saber se ela usou informações ou algoritmos falsos, comprometidos ou tendenciosos para chegar a essa conclusão.
Embora as redes neurais sejam incrivelmente poderosas e tenham vindo para ficar, há outra estrutura de IA desconhecida que está ganhando destaque: a aprendizagem baseada em instâncias (IBL). E é tudo o que as redes neurais não são. IBL é uma IA em que os usuários podem confiar, auditar e explicar. O IBL rastreia cada decisão até os dados de treinamento usados para chegar a essa conclusão.
A IBL pode explicar todas as decisões porque a IA não gera um modelo abstrato dos dados, mas toma decisões a partir dos próprios dados. E os usuários podem auditar a IA construída no IBL, interrogá-la para descobrir por que e como ela tomou decisões e então intervir para corrigir erros ou preconceitos.
Tudo isso funciona porque o IBL armazena dados de treinamento (“instâncias”) na memória e, alinhado aos princípios dos “vizinhos mais próximos”, faz previsões sobre novas instâncias, dada sua relação física com as instâncias existentes. O IBL é centrado em dados, portanto, pontos de dados individuais podem ser comparados diretamente entre si para obter insights sobre o conjunto de dados e as previsões. Em outras palavras, o IBL “mostra o trabalho que você faz”.
O potencial para tal IA compreensível é claro. Empresas, governos e qualquer outra entidade regulamentada que queira implementar IA de forma confiável, explicável e auditável poderiam usar a IA da IBL para atender aos padrões regulatórios e de conformidade. O IBL AI também será particularmente útil para quaisquer aplicações onde as alegações sejam tendenciosas: recrutamento, admissões em universidades, processos judiciais, etc.
As empresas já estão usando IBL. Por exemplo, uma estrutura comercial IBL usada por clientes, como grandes instituições financeiras, pode ser criada para detectar anomalias nos dados dos clientes e gerar dados sintéticos auditáveis que estejam em conformidade com o Regulamento Geral de Proteção de Dados da UE (GDPR).
É claro que a IBL tem seus desafios. O principal fator limitante do IBL é a escalabilidade, que também foi um desafio que as redes neurais enfrentaram durante 30 anos, até que a moderna tecnologia de computação as tornou viáveis. Com o IBL, cada dado deve ser consultado, catalogado e armazenado na memória, o que se torna mais difícil à medida que o conjunto de dados cresce.
No entanto, os investigadores estão a criar sistemas de consulta rápida baseados em avanços na teoria da informação para acelerar significativamente este processo. Esta tecnologia de ponta permitiu ao IBL competir diretamente com a viabilidade computacional das redes neurais.
Apesar destes desafios, o potencial da IBL é claro. À medida que mais e mais empresas buscam IA segura, explicável e auditável, as redes neurais de caixa preta não serão mais suficientes. Uma empresa, seja uma pequena startup ou uma empresa maior, deve começar a trabalhar nos modelos IBL, para os quais são fornecidas algumas dicas a seguir.
Mentalidade ágil e aberta
Com o IBL, funciona melhor explorar seus dados em busca de insights que possam ser gerados, em vez de atribuir-lhes uma tarefa específica, como “prever o preço ideal” de um item. Mantenha a mente aberta e deixe o IBL guiar seu próprio aprendizado. A IBL pode dizer que não consegue prever muito bem um preço ideal a partir de um determinado conjunto de dados, mas pode prever os horários do dia em que as pessoas fazem mais compras, ou como elas se comunicam com a empresa e quais itens são. comprar.
IBL é uma estrutura ágil de IA que requer comunicação colaborativa entre tomadores de decisão e equipes de ciência de dados, e não o habitual “jogue uma pergunta na popa, espere pela resposta” que vemos em muitas organizações que implementam IA hoje.
“Menos é mais” para modelos de IA
Na IA tradicional de caixa preta, um único modelo é treinado e otimizado para uma única tarefa, como classificação. Numa grande empresa, isto pode significar que existem milhares de modelos de IA para gerir, o que é caro e difícil de gerir. Em contraste, o IBL permite análises versáteis e multitarefa. Por exemplo, um único modelo IBL pode ser usado para aprendizagem supervisionada, detecção de anomalias e geração de dados sintéticos, ao mesmo tempo que fornece explicabilidade total.
Isso significa que os usuários do IBL podem criar e manter menos modelos, permitindo uma caixa de ferramentas de IA mais ágil e adaptável. Se a IBL for adotada, serão necessários programadores e cientistas de dados, mas não há necessidade de investir em centenas de técnicos seniores com experiência em IA.
Combine o conjunto de ferramentas de IA
As redes neurais são ótimas para qualquer aplicação que não precise de explicação ou auditoria. Mas quando a IA ajuda as empresas a tomar decisões Eventos importantes, como gastar milhões de dólares num novo produto ou concluir uma aquisição estratégica, devem ser explicáveis. E mesmo quando a IA é usada para tomar decisões menores, como contratar um candidato ou promover alguém, a explicabilidade é fundamental. Ninguém quer descobrir que perdeu uma promoção por causa de uma decisão inexplicável de caixa preta.
E as empresas em breve enfrentarão litígios neste tipo de casos. Você deve escolher estruturas de IA de acordo com sua aplicação; opte por redes neurais se desejar apenas ingestão rápida de dados e tomada de decisão rápida, e use IBL quando forem necessárias decisões confiáveis, explicáveis e auditáveis.
A aprendizagem baseada em instâncias não é uma tecnologia nova. Nas últimas duas décadas, os cientistas da computação desenvolveram a IBL em paralelo com as redes neurais, mas a IBL recebeu menos atenção do público. Agora a IBL está ganhando nova atenção em meio à corrida armamentista de IA em curso. O IBL mostrou que pode ser dimensionado enquanto mantém a explicabilidade: uma alternativa bem-vinda às alucinações de redes neurais que cospem informações falsas e não verificáveis.
Com tantas empresas a adoptar cegamente a IA baseada em redes neurais, o próximo ano assistirá, sem dúvida, a muitas violações de dados e a processos judiciais por acusações de parcialidade e desinformação.
Assim que os erros cometidos pela IA da caixa preta começarem a afetar a reputação das empresas... e seus resultados financeiros! Esperançosamente, o lento e constante IBL terá seu momento de glória. Todos aprendemos a importância de “mostrar o nosso trabalho” no ensino fundamental, e certamente podemos exigir esse mesmo rigor da IA que decide os rumos de nossas vidas.
