É verdade que os avanços na proteção de dados foram feitos nos Estados Unidos graças à aprovação de várias leis, como o California Consumer Privacy Act (CCPA), e documentos não vinculantes, como o Plano para uma Declaração de Direitos da IA. No entanto, atualmente não há regulamentação padrão ditando como as empresas de tecnologia devem mitigar o viés e a discriminação da IA.
Como resultado, muitas empresas estão ficando para trás na criação de ferramentas éticas que priorizam a privacidade. Quase 80% dos cientistas de dados nos EUA são do sexo masculino e 66% são brancos, mostrando uma falta inerente de diversidade e representação demográfica no desenvolvimento de ferramentas automatizadas de tomada de decisão, o que geralmente leva a resultados de dados tendenciosos.
Melhorias significativas nos processos de revisão de projeto são necessárias para garantir que empresas de tecnologia considere todas as pessoas ao criar e modificar seus produtos. Caso contrário, as organizações correm o risco de perder clientes para a concorrência, manchar suas reputações e correr o risco de processos judiciais sérios. De acordo com a IBM, cerca de 85% dos profissionais de TI acreditam que os consumidores escolhem empresas que são transparentes sobre como seus algoritmos de IA são criados, gerenciados e usados. podemos esperar que esse número aumentará à medida que mais usuários continuarem se posicionando contra a tecnologia prejudicial e tendenciosa.
Então, o que as empresas devem levar em conta quando hora de analisar o seu protótipos? Aqui estão quatro perguntas que as equipes de desenvolvimento devem se fazer:
Descartamos todos os tipos de viés em nosso protótipo?
Para criar uma tecnologia eficaz e livre de preconceitos, As equipes de IA devem apresentar uma lista de perguntas a serem feitas durante o processo de revisão que possam ajudá-los identificar possíveis problemas em seus modelos.
Existem muitas metodologias que as equipes de IA podem usar para avaliar seus modelos, mas antes de fazer isso, é essencial avaliar o objetivo final e se existe algum grupo que possa ser desproporcionalmente afetado pelos resultados do uso da IA.
Por exemplo, as equipes de IA devem ter em mente que o uso de tecnologias de reconhecimento facial podem inadvertidamente discriminar pessoas de cor, algo que acontece com muita frequência em algoritmos de IA. Uma investigação realizada pela American Civil Liberties Union em 2018 mostrou que o reconhecimento facial A Amazon incomparou 28 membros do Congresso dos Estados Unidos com fotos de policiais. Incríveis 40% das correspondências incorretas eram pessoas de cor, embora representem apenas 20% do Congresso.
Ao fazer perguntas difíceis, as equipes de IA podem encontrar novas maneiras de melhorar seus modelos e trabalhar para evitar que essas situações ocorram. Por exemplo, um exame minucioso pode ajudá-los a determinar se eles precisam analisar mais dados ou se eles precisarão de um terceiro, como um especialista em privacidade, para revisar seu produto.
Plot4AI é um ótimo recurso para quem quer começar.
Indicamos um profissional ou defensor da privacidade?
Devido à natureza de seu trabalho, os profissionais de privacidade são tradicionalmente vistos como barreiras à inovação, especialmente quando precisam revisar cada produto, documento e procedimento. Em vez de ver um departamento de privacidade como um obstáculo, as organizações devem vê-lo como um facilitador crítico da inovação.
Os as empresas devem priorizar a contratação de especialistas em privacidade e incorporá-los no processo de revisão de design para que você possa garantir que seus produtos funcionem para todos, incluindo populações carentes, de forma segura, compatível e livre de preconceitos.
Embora o processo de integração de profissionais de privacidade varie dependendo da natureza e do escopo da organização, existem algumas maneiras importantes de garantir que a equipe de privacidade tenha um lugar à mesa. As empresas devem começar estabelecendo um conjunto simples de procedimentos para identificar quaisquer atividades novas ou alteradas de processamento de dados pessoais.
La chave para o sucesso Um desses procedimentos é socializar o processo com executivos, bem como gerentes de produto e engenheiros, e garantir que eles estejam alinhados com a definição de informações pessoais da organização. Por exemplo, embora muitas organizações geralmente aceitem endereços IP e identificadores de dispositivos móveis como informações pessoais, padrões e padrões desatualizados podem categorizá-los como "anônimos". As empresas devem ser claras sobre quais tipos de informações são consideradas informações pessoais.
Além disso, as organizações podem acreditar que as informações pessoais usadas em seus produtos e serviços representa o maior risco e deve ser o foco das revisões, mas eles devem estar cientes de que outros departamentos, como recursos humanos e marketing, também processam grandes quantidades de informações pessoais.
Se uma organização não tiver a largura de banda necessária para contratar um profissional de privacidade para cada departamento, ela deve considerar a nomeação de um defensor da privacidade que possa detectar problemas e encaminhá-los à equipe de privacidade, se necessário.
Nosso departamento de pessoal e cultura está envolvido?
As equipes de privacidade não devem ser as únicas responsáveis pela privacidade em uma organização. Todos os funcionários que tenham acesso a informações pessoais ou que influenciem o tratamento das mesmas são responsáveis.
Ampliar seus esforços de contratação para incluir candidatos de diferentes demografias e regiões pode trazer diversas vozes e perspectivas. A contratação de funcionários diversificados não deve se limitar a cargos de nível básico e intermediário. A Uma equipe de gestão diversificada e um conselho de administração são absolutamente essenciais para representar aqueles que não podem entrar na empresa.
Programas de treinamento em toda a empresa sobre ética, privacidade e IA podem apoiar ainda mais uma cultura inclusiva, ao mesmo tempo em que aumentam a conscientização sobre a importância dos esforços de diversidade, equidade e inclusão (DEI). Apenas 32% das organizações exigem algum tipo de treinamento DEI para seus funcionários, destacando a necessidade de melhoria nessa área.
Nosso protótipo concorda com o Blueprint para uma Declaração de Direitos de IA?
Em outubro de 2022, o governo Biden publicou um plano para uma Declaração de Direitos da IA, descrevendo os princípios-chave, com etapas e recomendações detalhadas para desenvolver uma IA responsável e minimizar a discriminação em algoritmos.
As diretrizes incluem cinco salvaguardas:
- Sistemas seguros e eficazes.
- discriminação algorítmica.
- Dados privados.
- Aviso e explicação.
- Alternativas humanas, considerações e alternativas.
Embora o AI Bill of Rights não imponha nenhuma métrica ou regulamentação específica sobre IA, o as organizações devem considerá-lo como uma linha de base para suas próprias práticas de desenvolvimento. A estrutura pode ser usada como um recurso estratégico para empresas que desejam aprender mais sobre IA ética, mitigar preconceitos e dar aos consumidores controle sobre seus dados.
O caminho para a IA que prioriza a privacidade
A tecnologia tem o potencial de revolucionar a sociedade como a conhecemos, mas falhará se não beneficiar a todos igualmente. À medida que as equipes de IA criam novos produtos ou modificam suas ferramentas atuais, é fundamental que tomem as medidas necessárias e façam as perguntas certas para garantir que descartaram todos os tipos de viés.
A criação de ferramentas éticas que priorizem a privacidade sempre será um trabalho em andamento, mas as considerações acima podem ajudar as empresas a tomar medidas em direção a isso. direção correta.
