Il Parlamento europeo ha votato per confermare il suo mandato negoziale per la legge sull'IA, raggiungendo un traguardo importante che sblocca la fase successiva dei negoziati verso un regolamento paneuropeo per l'intelligenza artificiale.
I parlamentari hanno sostenuto una versione modificata della proposta della Commissione che amplia il regolamento in un modo che, secondo loro, mira a garantire che l'IA sviluppata e utilizzata in Europa sia "pienamente in linea con i diritti e i valori dell'UE", compresa la supervisione umana, la sicurezza, la privacy e trasparenza, non discriminazione, benessere sociale e ambientale”.
Tra i cambiamenti che i deputati hanno sostenuto c'è il divieto totale della sorveglianza biometrica remota e della polizia predittiva. Hanno anche aggiunto un divieto di "acquisizione non diretta di immagini facciali da Internet o immagini CCTV per creare database di riconoscimento facciale", quindi è fondamentalmente un duro divieto per Clearview AI e simili.
Il proposto divieto di sorveglianza biometrica remota si applicherebbe sia alle applicazioni in tempo reale che successive (a posteriori) di tecnologie come il riconoscimento facciale, salvo, in quest'ultimo caso, per le forze dell'ordine per il perseguimento di reati gravi. sospensione.
I deputati hanno anche aggiunto un divieto all'uso della tecnologia di riconoscimento delle emozioni utilizzata dalle forze dell'ordine, dalle agenzie di frontiera, dai luoghi di lavoro e dalle istituzioni educative.
I parlamentari hanno inoltre ampliato la classificazione dei sistemi di intelligenza artificiale ad alto rischio per includere quelli che arrecano danni significativi alla salute, alla sicurezza, ai diritti fondamentali o all'ambiente delle persone, nonché i sistemi di intelligenza artificiale utilizzati per influenzare gli elettori e i risultati elettorali.
I deputati hanno anche aggiunto piattaforme di social media più grandi che utilizzano algoritmi per consigliare i contenuti all'elenco ad alto rischio.
Il voto in plenaria segue l'approvazione da parte della commissione della proposta modificata il mese scorso, dopo che i deputati di diversi gruppi politici hanno discusso su come volevano modificare il testo della Commissione, inclusa l'aggiunta di obblighi per i produttori della cosiddetta IA di uso generale.
In risposta ai rapidi sviluppi dell'IA generativa, i deputati hanno sostenuto l'imposizione di una serie di obblighi sui modelli di IA di base/general-purpose, come la tecnologia alla base del chatbot AI di OpenAI ChatGPT, che richiede che tali sistemi identifichino e riducano i rischi prima di immetterli sul mercato , nonché applicare le informative sulla trasparenza ai contenuti generati dall'intelligenza artificiale e attuare misure di salvaguardia contro la generazione di contenuti illegali.
I produttori di IA per uso generico sono inoltre tenuti a pubblicare "riassunti dettagliati" delle informazioni protette da copyright utilizzate per addestrare i loro modelli come proposto dai deputati.
Durante un tour delle capitali europee per incontrare i legislatori il mese scorso, il CEO di OpenAI Sam Altman ha criticato questo aspetto della proposta dell'UE. Ha suggerito che la società potrebbe dover ritirare il servizio nella regione se non fosse in grado di conformarsi, dicendo ai giornalisti che sperava che gli obblighi sarebbero stati annullati.
In ogni caso, il voto in plenaria di oggi mostra un sostegno schiacciante tra i parlamentari alla versione modificata del disegno di legge, compresi gli obblighi proposti per le IA di carattere generale, con 499 voti favorevoli e appena 28 contrari (più 93 astenuti).
Il voto per l'approvazione del mandato significa che ora possono iniziare i colloqui tra il parlamento ei governi degli Stati membri dell'Ue, con il primo dialogo tripartito previsto per questa sera.
Commentando in una dichiarazione dopo il voto, il correlatore Brando Benifei ha dichiarato:
Tutti gli occhi sono puntati su di noi oggi. Mentre le grandi aziende tecnologiche lanciano l'allarme sulle proprie creazioni, l'Europa si è fatta avanti e ha proposto una risposta concreta ai rischi che l'IA sta cominciando a porre. Vogliamo vedere sfruttato il potenziale positivo dell'IA per la creatività e la produttività, ma lotteremo anche per proteggere la nostra posizione e contrastare i pericoli per le nostre democrazie e libertà durante i negoziati con il Consiglio.
In un'altra dichiarazione di sostegno, il correlatore Dragos Tudorache ha aggiunto:
L'AI Act fisserà lo standard mondiale nello sviluppo e nella governance dell'intelligenza artificiale, garantendo che questa tecnologia, destinata a trasformare radicalmente le nostre società attraverso gli enormi benefici che può offrire, si evolva e sia utilizzata in conformità con i valori europei di democrazia, diritti fondamentali e stato di diritto.
La versione della legge sull'IA che i deputati hanno approvato oggi aggiunge anche esenzioni per le attività di ricerca e i componenti di intelligenza artificiale forniti con licenze open source, che secondo i deputati garantiranno il sostegno all'innovazione, insieme alle sandbox normative per i sistemi di test da istituire nel struttura.
La proposta dei deputati aggiunge anche una serie di diritti dei consumatori rispetto al processo decisionale dell'IA, inclusa la possibilità per i consumatori di chiedere un risarcimento collettivo se un sistema di IA ha causato loro un danno.
L'organizzazione europea dei consumatori, BEUC, ha accolto con favore questi cambiamenti, ma ha criticato il parlamento per non aver appoggiato un divieto totale dell'uso del riconoscimento emotivo AI (poiché la proposta non limita l'uso commerciale su quella china scivolosa).
Ritiene inoltre che gli eurodeputati abbiano concesso agli sviluppatori troppa discrezionalità per decidere se i loro sistemi rientrino o meno nella categoria ad alto rischio, il che, secondo lui, potrebbe minare l'efficacia del quadro basato sul rischio.
Ciò può essere motivo di contesa durante le discussioni tripartite che devono trovare un compromesso tra la posizione del Consiglio dell'UE, che è l'organo composto dai governi degli Stati membri, e i legislatori in parlamento per raggiungere la necessaria politica accordo su un testo definitivo e sigillare il fascicolo.
In generale, il Consiglio dell'UE adotta una linea più favorevole all'industria, mentre il parlamento tende a preoccuparsi maggiormente dei diritti fondamentali. Resta da vedere dove le due parti si incontreranno per regolamentare l'IA.
Se non riescono a mettersi d'accordo, il processo legislativo dell'UE potrebbe bloccarsi o addirittura fallire. Ma c'è una spinta a Bruxelles per superare questo file data la quantità di attenzione globale ora focalizzata sulla regolamentazione dell'IA. (Essere i primi a colpire con un regolamento democratico per l'IA offre opportunità per il blocco di esercitare un'influenza oltre i suoi confini mentre altre giurisdizioni si affrettano a trovare i propri approcci per regolare un campo complesso di tecnologia in rapido sviluppo.).
Il Consiglio ha adottato una posizione sul fascicolo precedente in dicembre. All'epoca, gli Stati membri erano in gran parte favorevoli a rinviare il da farsi con l'IA per uso generale a un'ulteriore legislazione di attuazione. Ma, visto quello che è successo nel frattempo, con strumenti di intelligenza artificiale generativa come ChatGPT che sono entrati al centro della discussione sulla tecnologia e hanno alzato più segnali di allarme per la regolamentazione (e molte tipologie di settore tecnologico), sarà interessante vedere su cosa gli stati saranno d'accordo membri ed eurodeputati sulla necessità di aggiungere obblighi per questa classe di sistemi di IA al testo della stessa Legge sull'IA.
La proposta originale per il quadro basato sul rischio per l'IA è stata presentata dall'esecutivo dell'UE nell'aprile 2021. Sebbene quella prima bozza di testo della Commissione non affrontasse la questione dell'IA per scopi generici in modo così ampio, proponeva disposizioni di trasparenza per i chatbot e tecnologia deepfake. Già a quel tempo, i legislatori dell'UE erano dell'opinione che i consumatori dovessero essere informati che stavano interagendo con contenuti generati dalla macchina.
Sebbene la Commissione continui a sperare che i colloqui tripartiti sullo accantonamento della legge sull'IA forniscano un accordo politico entro la fine di quest'anno, ci sarà ancora un periodo di attuazione, quindi è probabile che la legislazione non venga attuata prima del 2026.
Ecco perché l'UE sta anche lavorando a diverse iniziative volontarie che mirano a fare pressione sulle aziende di intelligenza artificiale affinché nel frattempo autoregolamentino la sicurezza.
