Muitos descreveram 2023 como o ano da IA, e o termo apareceu em várias listas de “palavras do ano”. Embora tenha tido um impacto positivo na produtividade e eficiência no local de trabalho, a IA também apresentou uma série de riscos emergentes para as empresas.
Num votação desenvolvido pelo AuditBoard, foi revelado que aproximadamente metade dos funcionários dos EUA (51%) usam ferramentas de IA para trabalhar, sem dúvida alimentadas por ChatGPT e outras soluções generativas de IA. Ao mesmo tempo, porém, quase metade (48%) afirmou que alimenta dados da empresa em ferramentas de IA não públicas para os ajudar no seu trabalho.
Esta rápida integração de ferramentas A IA generativa no trabalho apresenta desafios éticos, legais, de privacidade e práticos, criando a necessidade de as empresas implementarem políticas novas e robustas em torno de ferramentas de IA generativa. Do jeito que as coisas estão, a maioria ainda não o fez: um Relatório do Gartner revelou que mais da metade das organizações não possui uma política interna sobre IA generativa, e a pesquisa do AuditBoard mostrou que apenas 37% dos funcionários têm uma política formal relativa ao uso de ferramentas baseadas em IA não fornecidas pela empresa.
Embora possa parecer uma tarefa difícil, desenvolver um conjunto de políticas e padrões pode salvar as organizações de grandes dores de cabeça no futuro.
Uso e Governança da IA: riscos e desafios
A rápida adoção da IA generativa tornou difícil para as empresas acompanharem a gestão de riscos e a governação da IA, e existe uma clara desconexão entre a adoção e as políticas formais. O inquérito do AuditBoard mencionado acima concluiu que 64% consideram a utilização de ferramentas de IA segura, indicando que muitos trabalhadores e organizações podem estar a ignorar os riscos.
Esses riscos e desafios podem variar, mas três dos mais comuns neste momento são:
- Excesso de confiança. O efeito Dunning-Kruger é um viés que ocorre quando nossos próprios conhecimentos ou habilidades são superestimados. Vimos isso acontecer em relação ao uso da IA; muitos sobrestimam as capacidades da IA sem compreender as suas limitações. Isto poderia produzir resultados relativamente inofensivos, como fornecer resultados incompletos ou imprecisos, mas também poderia levar a situações muito mais graves, como resultados que violam as restrições de uso. legal ou criar riscos de propriedade intelectual.
- Segurança e privacidade. A IA necessita de acesso a grandes quantidades de dados para ser totalmente eficaz, mas isso por vezes inclui dados pessoais ou outras informações sensíveis. Existem riscos inerentes ao uso de ferramentas de IA não avaliadas, portanto, as organizações devem garantir o uso de ferramentas que atendam aos seus padrões de segurança de dados.
- Compartilhar dados. Quase todos os fornecedores de tecnologia lançaram ou lançarão em breve recursos de IA para aumentar suas ofertas de produtos, e muitas dessas adições são de autoatendimento ou habilitadas pelo usuário. As soluções gratuitas geralmente funcionam monetizando os dados fornecidos pelo usuário e, nesses casos, há uma coisa a lembrar: se você não está pagando pelo produto, provavelmente você é o produto. As organizações devem ter o cuidado de garantir que os modelos de aprendizagem que utilizam não sejam treinados com dados pessoais ou de terceiros sem consentimento e que os seus próprios dados não sejam usados para treinar modelos de aprendizagem sem permissão.
Existem também riscos e desafios associados ao desenvolvimento de produtos que incluem capacidades de IA, como a definição do uso aceitável de dados de clientes para treinamento de modelos. À medida que a IA se infiltra em todas as facetas dos negócios, estas e muitas outras considerações certamente surgirão no horizonte.
Desenvolva políticas abrangentes de uso de IA
A integração da IA nos processos e estratégias empresariais tornou-se imperativa, mas requer o desenvolvimento de um quadro de políticas e diretrizes para a sua implementação e utilização responsável. A aparência disso pode variar dependendo das necessidades específicas e dos casos de uso de uma entidade, mas quatro pilares gerais podem ajudar as organizações a aproveitar a IA para a inovação, ao mesmo tempo que mitigam riscos e mantêm padrões éticos.
Integre IA em planos estratégicos
A adoção da IA exige o alinhamento da sua implementação com os objetivos estratégicos do negócio. Não se trata de adotar tecnologia de ponta só por usar; A integração de aplicações de IA que promovam a missão e os objetivos definidos da organização deverá melhorar a eficiência operacional e impulsionar o crescimento.
Mitigar o excesso de confiança
Reconhecer o potencial da IA não deve significar uma confiança inabalável. O otimismo cauteloso (com ênfase em “cauteloso”) deve sempre prevalecer, uma vez que as organizações devem ter em conta as limitações e potenciais preconceitos das ferramentas de IA. É essencial encontrar um equilíbrio calculado entre aproveitar os pontos fortes da IA e estar consciente das suas limitações atuais e futuras.
Definir diretrizes e melhores práticas no uso de IA
A definição de protocolos para privacidade de dados, medidas de segurança e considerações éticas garante o uso consistente e ético em todos os departamentos. Este processo inclui:
- Envolver diversas equipes na criação de políticas: Equipas que incluam equipas jurídicas, de recursos humanos e de segurança da informação devem ser envolvidas para criar uma perspectiva holística, integrando dimensões jurídicas e éticas nos quadros operacionais.
- Defina parâmetros de uso e restrinja aplicativos prejudiciais: Articular políticas para a utilização da IA em aplicações práticas e tecnológicas, identificar áreas onde a IA pode ser empregada de forma benéfica e evitar a utilização de aplicações potencialmente prejudiciais, ao mesmo tempo que estabelece processos para avaliar novos casos de utilização de IA que possam alinhar-se com os interesses estratégicos do negócio.
- Realize educação regular dos funcionários e atualizações de políticas: A IA está em constante evolução e é provável que esta evolução se acelere – os quadros políticos devem adaptar-se em conjunto. As atualizações regulares garantem o alinhamento das políticas com o cenário de IA em rápida mudança, e a educação abrangente dos funcionários garante a conformidade e o uso responsável.
Monitoramento e detecção de uso não autorizado de IA
A criação e o uso de mecanismos robustos de prevenção contra perda de dados (DLP) e detecções baseadas em endpoints ou SASE/CASB desempenham um papel muito importante na identificação do uso não autorizado de IA dentro da organização e na mitigação de possíveis violações ou usos indevidos. Também é crucial procurar propriedade intelectual em modelos de IA de código aberto. A inspeção meticulosa protege informações proprietárias e evita infrações indesejadas e, portanto, muito caras.
À medida que as empresas se aprofundam na integração da IA, a formulação de políticas claras mas amplas permite-lhes aproveitar o potencial da IA e, ao mesmo tempo, mitigar os seus riscos.
A elaboração de políticas eficazes também incentiva a utilização ética da IA e cria resiliência organizacional num mundo que será cada vez mais impulsionado pela IA. Não se engane: este é um assunto urgente. As organizações que adotam a IA com políticas bem definidas terão a melhor oportunidade de navegar eficazmente nesta transformação, ao mesmo tempo que defendem os padrões éticos e alcançam os seus objetivos estratégicos.
