Claude, d'Anthropic, commence à annoter les textes générés par l'IA afin de les rendre conformes à la loi européenne sur l'IA.

L'intelligence artificielle générative entre dans une nouvelle phase en Europe. Il ne suffit plus de réglementer le fonctionnement des modèles ni les informations que leurs développeurs doivent fournir. L'Union européenne souhaite également permettre l'identification technique de certains contenus générés par l'intelligence artificielle, marquant ainsi un tournant en matière de traçabilité et de transparence.

Dans une démarche proactive, Anthropic a commencé à intégrer des mécanismes de marquage dans Claude afin d'identifier les contenus générés par ses modèles. Cette mesure s'inscrit dans le cadre de la mise en œuvre des nouvelles obligations de transparence prévues par le Règlement européen sur l'intelligence artificielle (loi AI) et de l'élaboration du Code de bonnes pratiques européen relatif aux contenus générés par l'IA. La conséquence est significative : copier-coller un texte généré par l'IA ailleurs ne permettra plus nécessairement d'effacer toute trace de son origine.

Un filigrane qui n'a pas forcément besoin d'être visible.

Lorsqu'on parle de filigrane, on imagine généralement un logo ou un indicateur visible sur une photographie. Dans le cas des contenus générés par l'IA, l'approche est différente. L'objectif est d'intégrer des mécanismes permettant l'identification technique des contenus générés ou manipulés par l'IA.

Claude est en avance sur le nouveau modèle européen

La décision d'Anthropic est particulièrement importante car Claude est l'un des principaux modèles d'IA utilisés pour générer des textes professionnels, académiques et créatifs. Jusqu'à présent, déterminer si un contenu avait été généré par une IA était extrêmement difficile, et les « détecteurs d'IA » ont montré des limites importantes. La nouvelle approche agit à la source : le système de génération lui-même intègre les mécanismes d'identification.

Un filigrane n'indique pas qui est l'auteur.

C’est là que réside l’une des questions juridiques les plus intéressantes. Le fait qu’il soit possible de démontrer que Claude, ChatGPT ou un autre système est intervenu dans la génération d’un texte ne signifie pas nécessairement que l’IA en est l’auteur. La création assistée par l’IA peut présenter des degrés d’intervention humaine très variables. Donner une simple instruction est bien différent du développement d’idées, de la fourniture de documentation, de la conception de la structure et de la modification en profondeur d’une ébauche générée par l’IA.

Cette différence est cruciale en matière de propriété intellectuelle, où la protection du droit d'auteur reste liée à la création humaine.

Implications : des preuves juridiques à la réputation de l'entreprise

L'identification technique des contenus générés par l'IA peut avoir des conséquences procédurales, devenant une preuve recevable dans les litiges relatifs à la propriété intellectuelle, à la fraude ou à la concurrence déloyale. Cependant, sa valeur ne sera pas absolue ; la fiabilité du système, sa résistance à la modification et la traçabilité numérique devront être analysées.

Les implications dépassent le cadre juridique et impactent directement le monde des affaires. Les entreprises utilisent l'IA pour leurs rapports, leurs communications, leurs contrats et leur marketing. La loi sur l'IA impose un examen de l'utilisation de ces outils et, surtout, des contrôles humains mis en place. Une politique interne en matière d'IA doit désormais définir non seulement les outils à utiliser, mais aussi les modalités de contrôle des contenus, la documentation des interventions humaines et les cas d'application des obligations de transparence.

Un nouveau domaine de conseil juridique

La mise en œuvre de la loi sur l'IA crée un nouveau domaine de conformité réglementaire. Des cabinets comme Ferrer-Bonsoms & Sanjurjo interviennent déjà dans ce domaine, aidant les entreprises à utiliser des outils comme Claude ou ChatGPT en toute légalité. Le défi consiste à mettre en place des procédures internes permettant de démontrer la conformité à la réglementation.

L'IA commence à se faire remarquer.

Durant les premières années de l'IA générative, son attrait résidait dans la difficulté à distinguer la création humaine de la création machine. L'Europe est en train de changer ce paradigme. L'intégration de mécanismes d'identification permettra de retracer de plus en plus l'origine des contenus. Cependant, cette traçabilité soulève une question plus complexe : savoir que l'IA est intervenue ne nous indique pas la part de création humaine et la part de création machine. La technologie peut commencer à nous indiquer la provenance d'un texte, mais la détermination de sa paternité légale restera du ressort du droit.