Le Parlement européen a voté pour confirmer son mandat de négociation pour la loi sur l'IA, franchissant une étape importante qui ouvre la prochaine étape des négociations vers un règlement paneuropéen pour l'intelligence artificielle.
Les députés ont soutenu une version modifiée de la proposition de la Commission qui élargit le règlement d'une manière qui, selon eux, vise à garantir que l'IA développée et utilisée en Europe est "pleinement conforme aux droits et valeurs de l'UE", y compris la supervision humaine, la sécurité, la confidentialité et transparence, non-discrimination, bien-être social et environnemental ».
Parmi les changements soutenus par les députés, figure une interdiction complète de la surveillance biométrique à distance et de la police prédictive. Ils ont également ajouté une interdiction de "la capture non dirigée d'images faciales à partir d'Internet ou d'images CCTV pour créer des bases de données de reconnaissance faciale", il s'agit donc essentiellement d'une interdiction ferme de Clearview AI et autres.
L'interdiction proposée de la surveillance biométrique à distance s'appliquerait à la fois aux applications en temps réel ou ultérieures (après coup) de technologies telles que la reconnaissance faciale, sauf, dans ce dernier cas, pour les forces de l'ordre chargées de poursuivre des crimes graves. suspension.
Les députés ont également ajouté une interdiction de l'utilisation de la technologie de reconnaissance des émotions utilisée par les forces de l'ordre, les agences frontalières, les lieux de travail et les établissements d'enseignement.
Les parlementaires ont également élargi la classification des systèmes d'IA à haut risque pour inclure ceux qui nuisent considérablement à la santé, à la sécurité, aux droits fondamentaux ou à l'environnement des personnes, ainsi que les systèmes d'IA utilisés pour influencer les électeurs et les résultats des élections.
Les députés ont également ajouté de plus grandes plateformes de médias sociaux qui utilisent des algorithmes pour recommander du contenu à la liste à haut risque.
Le vote en plénière fait suite à l'approbation par la commission de la proposition modifiée le mois dernier après que les députés de différents groupes politiques ont discuté de la manière dont ils souhaitaient modifier le texte de la Commission, notamment en ajoutant des obligations aux fabricants de l'IA dite à usage général.
En réponse aux développements rapides de l'IA générative, les députés ont soutenu l'imposition d'un ensemble d'obligations sur les modèles d'IA de base/à usage général, comme la technologie derrière le chatbot d'IA d'OpenAI ChatGPT, qui exige que ces systèmes identifient et atténuent les risques avant de les mettre sur le marché , ainsi qu'appliquer des divulgations de transparence au contenu généré par l'IA et mettre en œuvre des garanties contre la génération de contenu illégal.
Les fabricants d'IA à usage général sont également tenus de publier des "résumés détaillés" des informations protégées par le droit d'auteur utilisées pour former leurs modèles, comme proposé par les députés.
Lors d'une tournée dans les capitales européennes pour rencontrer les législateurs le mois dernier, le PDG d'OpenAI, Sam Altman, a critiqué cet aspect de la proposition de l'UE. Il a suggéré que l'entreprise pourrait devoir retirer le service dans la région si elle ne pouvait pas se conformer, disant aux journalistes qu'il espérait que les obligations seraient annulées.
En tout cas, le vote en plénière d'aujourd'hui montre un soutien écrasant parmi les députés à la version amendée du projet de loi, y compris les obligations proposées pour les IA à usage général, avec 499 voix pour et seulement 28 contre (plus 93 abstentions).
Le vote d'approbation du mandat signifie que les discussions entre le parlement et les gouvernements des États membres de l'UE peuvent désormais commencer, le premier dialogue tripartite étant prévu ce soir.
Commentant dans une déclaration après le vote, le co-rapporteur Brando Benifei a déclaré :
Tous les regards sont braqués sur nous aujourd'hui. Alors que les grandes entreprises technologiques tirent la sonnette d'alarme sur leurs propres créations, l'Europe s'est avancée et a proposé une réponse concrète aux risques que l'IA commence à poser. Nous voulons voir le potentiel positif de l'IA pour la créativité et la productivité exploité, mais nous nous battrons également pour protéger notre position et contrer les dangers pour nos démocraties et nos libertés lors des négociations avec le Conseil.
Dans un autre justificatif, le co-rapporteur Dragos Tudorache a ajouté :
La loi AI établira la norme mondiale dans le développement et la gouvernance de l'intelligence artificielle, garantissant que cette technologie, destinée à transformer radicalement nos sociétés par les énormes avantages qu'elle peut offrir, évolue et est utilisée conformément aux valeurs européennes de la démocratie, les droits fondamentaux et l'État de droit.
La version de la loi sur l'IA que les députés ont approuvée aujourd'hui ajoute également des exemptions pour les activités de recherche et les composants d'IA fournis dans le cadre de licences open source, qui, selon les députés, assureront le soutien à l'innovation, ainsi que les bacs à sable réglementaires pour les systèmes de test à établir dans le cadre.
La proposition des députés ajoute également un ensemble de droits des consommateurs sur la prise de décision en matière d'IA, y compris la possibilité pour les consommateurs de demander un recours collectif si un système d'IA leur a causé du tort.
L'organisation européenne des consommateurs, le BEUC, a salué ces changements, mais a critiqué le parlement pour ne pas avoir soutenu une interdiction totale de l'utilisation de l'IA de reconnaissance émotionnelle (car la proposition ne limite pas l'utilisation commerciale sur cette pente glissante).
Il estime également que les députés européens ont accordé trop de latitude aux développeurs pour décider si leurs systèmes entrent ou non dans la catégorie à haut risque, ce qui, selon lui, pourrait nuire à l'efficacité du cadre basé sur les risques.
Cela peut être une source de discorde lors des discussions tripartites qui doivent trouver un compromis entre la position du Conseil de l'UE, qui est l'organe composé des gouvernements des États membres, et les législateurs du parlement pour parvenir à la nécessaire politique accord sur un texte définitif et sceller le dossier.
En général, le Conseil de l'UE adopte une ligne plus favorable à l'industrie, tandis que le Parlement a tendance à se préoccuper davantage des droits fondamentaux. Reste à savoir où les deux parties se retrouveront pour réguler l'IA.
S'ils ne parviennent pas à s'entendre, le processus législatif de l'UE risque de s'enliser, voire d'échouer. Mais il y a une poussée à Bruxelles pour aller au-delà de ce dossier étant donné l'attention mondiale désormais portée sur la réglementation de l'IA. (Être le premier à frapper avec un règlement démocratique pour l'IA offre au bloc des opportunités d'exercer une influence au-delà de ses frontières alors que d'autres juridictions s'efforcent de trouver leurs propres approches pour réglementer un domaine complexe de technologie en développement rapide. ).
Le Conseil a adopté une position sur le dossier précédent en décembre. À l'époque, les États membres étaient largement favorables au report de ce qu'il fallait faire de l'IA à usage général, à une législation de mise en œuvre supplémentaire. Mais, compte tenu de ce qui s'est passé entre-temps, avec des outils d'IA génératifs comme ChatGPT qui se retrouvent au centre de la discussion sur la technologie et lèvent plusieurs drapeaux rouges à la réglementation (et de nombreuses typologies de l'industrie technologique), il sera intéressant de voir sur quoi les États s'accorderont. . députés et députés européens sur la nécessité d'ajouter des obligations pour cette catégorie de systèmes d'IA au texte de la loi sur l'IA elle-même.
La proposition initiale de cadre fondé sur les risques pour l'IA a été soumise par l'exécutif européen en avril 2021. Bien que ce premier projet de texte de la Commission n'aborde pas la question de l'IA à usage général de manière aussi large, il propose des dispositions de transparence pour les chatbots. et la technologie deepfake. Déjà à cette époque, les législateurs de l'UE étaient d'avis que les consommateurs devraient être informés qu'ils interagissent avec du contenu généré par des machines.
Alors que la Commission garde espoir que les pourparlers tripartites sur la mise à l'écart de la loi sur l'IA déboucheront sur un accord politique d'ici la fin de cette année, il y aura encore une période de mise en œuvre, de sorte que la législation ne sera probablement pas mise en œuvre avant 2026.
C'est pourquoi l'UE travaille également sur plusieurs initiatives volontaires visant à faire pression sur les entreprises d'IA pour qu'elles autorégulent la sécurité en attendant.
