O Parlamento Europeu votou para confirmar seu mandato de negociação para a Lei da IA, alcançando um marco importante que abre a próxima etapa das negociações em direção a um livro de regras pan-europeu para inteligência artificial.
Os parlamentares apoiaram uma versão modificada da proposta da Comissão que expande o livro de regras de uma forma que, segundo eles, visa garantir que a IA desenvolvida e usada na Europa esteja "totalmente alinhada com os direitos e valores da UE". , incluindo supervisão humana, segurança, privacidade e transparência, não discriminação, bem-estar social e ambiental”.
Entre as mudanças que os parlamentares apoiaram está a proibição total da vigilância biométrica remota e do policiamento preditivo. Eles também adicionaram uma proibição de "captura não direcionada de imagens faciais da Internet ou imagens de CCTV para criar bancos de dados de reconhecimento facial", então é basicamente uma proibição rígida de Clearview AI e similares.
A proibição proposta de vigilância biométrica remota se aplicaria a aplicações em tempo real ou subsequentes (após o fato) de tecnologias como reconhecimento facial, exceto, no último caso, para aplicação da lei para o julgamento de crimes graves. suspensão.
Os eurodeputados também proibiram o uso de tecnologia de reconhecimento de emoções usada por policiais, agências de fronteira, locais de trabalho e instituições educacionais.
Os parlamentares também expandiram a classificação de sistemas de IA de alto risco para incluir aqueles que representam danos significativos à saúde, segurança, direitos fundamentais ou meio ambiente das pessoas, bem como sistemas de IA usados para influenciar os eleitores e os resultados das eleições.
Os parlamentares também adicionaram plataformas de mídia social maiores que usam algoritmos para recomendar conteúdo à lista de alto risco.
A votação em plenário segue o endosso do comitê à proposta alterada no mês passado, depois que os deputados de diferentes grupos políticos discutiram como queriam alterar o texto da Comissão, incluindo a adição de obrigações aos fabricantes da chamada IA de uso geral.
Em resposta aos rápidos desenvolvimentos na IA generativa, os deputados apoiaram a imposição de um conjunto de obrigações sobre modelos de IA básicos/de uso geral, como a tecnologia por trás do chatbot de IA da OpenAI, ChatGPT, que exige que tais sistemas identifiquem e mitiguem riscos antes de colocá-los no mercado , bem como aplicar divulgações de transparência a conteúdo gerado por IA e implementar salvaguardas contra a geração de conteúdo ilegal.
Os fabricantes de IA de uso geral também são obrigados a publicar "resumos detalhados" das informações protegidas por direitos autorais usadas para treinar seus modelos, conforme proposto pelos deputados.
Durante uma visita às capitais europeias para encontrar legisladores no mês passado, o CEO da OpenAI, Sam Altman, criticou esse aspecto da proposta da UE. Ele sugeriu que a empresa poderia ter que retirar o serviço na região se não pudesse cumprir, dizendo aos repórteres que esperava que as obrigações fossem revertidas.
De qualquer forma, a votação do plenário de hoje mostra um apoio esmagador entre os deputados à versão alterada do projeto de lei, incluindo as obrigações propostas para AIs de uso geral, com 499 votos a favor e apenas 28 contra (mais 93 abstenções).
A votação da aprovação do mandato permite já o início das discussões entre o parlamento e os governos dos Estados-membros da UE, estando agendado para esta noite o primeiro diálogo tripartido.
Comentando em um comunicado após a votação, o co-relator Brando Benifei disse:
Todos os olhos estão sobre nós hoje. À medida que as grandes empresas de tecnologia soam o alarme sobre suas próprias criações, a Europa deu um passo à frente e propôs uma resposta concreta aos riscos que a IA está começando a representar. Queremos ver o potencial positivo da IA para criatividade e produtividade aproveitado, mas também lutaremos para proteger nossa posição e combater os perigos para nossas democracias e liberdades durante as negociações com o Conselho.
Em outra declaração de apoio, o co-relator Dragos Tudorache acrescentou:
O AI Act definirá o padrão mundial no desenvolvimento e governança da inteligência artificial, garantindo que essa tecnologia, destinada a transformar radicalmente nossas sociedades pelos enormes benefícios que pode oferecer, evolua e seja usada de acordo com os valores europeus de Democracia, Direitos Fundamentais e Estado de Direito.
A versão da Lei de IA que os deputados endossaram hoje também adiciona isenções para atividades de pesquisa e componentes de IA fornecidos sob licenças de código aberto, que os deputados sugerem que garantirão suporte à inovação, juntamente com os sandboxes regulatórios para sistemas de teste a serem estabelecidos no estrutura.
A proposta dos deputados também acrescenta um conjunto de direitos do consumidor sobre a tomada de decisões de IA, incluindo a capacidade de os consumidores buscarem reparação coletiva se um sistema de IA lhes causar danos.
A organização europeia de consumidores, BEUC, saudou essas mudanças, mas criticou o parlamento por não apoiar uma proibição total do uso de IA de reconhecimento emocional (já que a proposta não limita o uso comercial nessa ladeira escorregadia).
Ele também acredita que os MPEs deram aos desenvolvedores muita liberdade para decidir se seus sistemas se enquadram ou não na categoria de alto risco, o que, segundo ele, poderia minar a eficácia da estrutura baseada em risco.
Isso pode ser uma fonte de discórdia durante as discussões tripartidas que precisam encontrar um compromisso entre a posição do Conselho da UE, que é o órgão formado pelos governos dos Estados membros, e os legisladores no parlamento para alcançar as políticas políticas necessárias. acordo sobre um texto final e selar o arquivo.
Em geral, o Conselho da UE tem uma linha mais pró-indústria, enquanto o parlamento tende a se preocupar mais com os direitos fundamentais. Resta saber onde as duas partes se encontrarão para regulamentar a IA.
Se eles não chegarem a um acordo, o processo legislativo da UE pode parar ou até falhar. Mas há um esforço em Bruxelas para superar esse arquivo, dada a quantidade de atenção global agora voltada para a regulamentação da IA. (Ser o primeiro a atacar com um livro de regras democrático para IA apresenta oportunidades para o bloco exercer influência além de suas fronteiras, enquanto outras jurisdições lutam para descobrir suas próprias abordagens para regular um campo complexo de tecnologia em rápido desenvolvimento.).
O Conselho adotou uma posição sobre o dossier anterior em dezembro. Na época, os Estados-Membros eram a favor de adiar o que fazer com a IA de uso geral, para legislação de implementação adicional. Mas, considerando o que aconteceu nesse meio tempo, com ferramentas de IA generativas como o ChatGPT entrando no centro da discussão tecnológica e levantando várias bandeiras vermelhas para a regulamentação (e muitas tipologias da indústria de tecnologia), será interessante ver o que os estados concordarão em .deputados e deputados sobre a necessidade de acrescentar obrigações para esta classe de sistemas de IA ao texto da própria Lei da IA.
A proposta original para a estrutura baseada em risco para IA foi apresentada pelo executivo da UE em abril de 2021. Embora o primeiro rascunho do texto da Comissão não abordasse a questão da IA de uso geral de maneira tão ampla, ele propôs transparência de provisões para chatbots e tecnologia deepfake. Já naquela época, os legisladores da UE eram de opinião que os consumidores deveriam ser informados de que estão interagindo com conteúdo gerado por máquina.
Embora a Comissão continue esperançosa de que as negociações tripartidas sobre o arquivamento da Lei de IA forneçam um acordo político até o final deste ano, ainda haverá um período de implementação, portanto, é provável que a legislação não seja implementada antes de 2026.
É por isso que a UE também está trabalhando em várias iniciativas voluntárias que visam pressionar as empresas de IA a autorregular a segurança nesse meio tempo.
