La inteligencia artificial generativa entra en una nueva etapa en Europa. Ya no basta con regular cómo funcionan los modelos o qué información deben proporcionar sus desarrolladores. La Unión Europea quiere también que sea posible identificar técnicamente determinados contenidos generados mediante inteligencia artificial, marcando un antes y un después en la trazabilidad y la transparencia.
En un movimiento proactivo, Anthropic ha comenzado a introducir en Claude mecanismos de marcado para identificar el contenido generado por sus modelos. La medida se enmarca en la aplicación de las nuevas obligaciones de transparencia previstas por el Reglamento Europeo de Inteligencia Artificial (AI Act) y en el desarrollo del Código de Prácticas europeo sobre contenidos generados por IA. La consecuencia es profunda: copiar un texto generado por una IA y pegarlo en otro lugar ya no implicará necesariamente borrar cualquier rastro de su origen.
Perfil de la Empresa: Anthropic
- ▶ Fundadores: Dario Amodei, Daniela Amodei (ex-miembros de OpenAI)
- ▶ Año de Fundación: 2021
- ▶ Sede: San Francisco, California, EE. UU.
- ▶ Inversores Clave: Google, Amazon, Salesforce, Spark Capital
- ▶ Valoración (2024): Aproximadamente $18.4 mil millones
- ▶ Enlaces: Web Oficial | LinkedIn | X (Twitter)
Una marca de agua que no tiene por qué verse
Cuando hablamos de una marca de agua, tendemos a imaginar un logotipo o una indicación visible sobre una fotografía. En el caso de los contenidos generados por inteligencia artificial, el planteamiento es diferente. El objetivo es incorporar mecanismos que permitan identificar técnicamente que un contenido ha sido generado o manipulado mediante IA.
Claves del Artículo 50 del AI Act
El artículo 50 del AI Act establece obligaciones para que los proveedores de sistemas generativos hagan sus resultados identificables como generados o manipulados artificialmente. Estas soluciones deben ser:
- Eficaces: Deben funcionar de manera consistente.
- Interoperables: Compatibles con diferentes sistemas y plataformas.
- Robustas y Fiables: Resistentes a la manipulación y con resultados predecibles.
Por tanto, el usuario no tiene necesariamente que ver una advertencia escrita. La identificación puede producirse mediante sistemas técnicos que acompañan al contenido y permiten comprobar su procedencia posteriormente.
Claude se adelanta al nuevo modelo europeo
La decisión de Anthropic es especialmente significativa porque Claude es uno de los grandes modelos de IA utilizados para generar textos profesionales, académicos y creativos. Hasta ahora, determinar si un contenido había sido generado mediante IA era extremadamente difícil, y los llamados «detectores de IA» han demostrado importantes limitaciones. El nuevo enfoque actúa desde el origen: es el propio sistema generador el que incorpora los mecanismos de identificación.
Cronología de la AI Act de la Unión Europea
Abril 2021: La Comisión Europea presenta la propuesta inicial del Reglamento de IA.
Diciembre 2023: Se alcanza un acuerdo político provisional entre el Parlamento y el Consejo.
Marzo 2024: El Parlamento Europeo aprueba formalmente la ley.
Mayo 2024: El Consejo de la UE da su aprobación final.
2026: Plena entrada en vigor de la mayoría de las disposiciones de la AI Act.
Una marca de agua no determina quién es el autor
Aquí aparece uno de los problemas jurídicos más interesantes. Que pueda demostrarse que Claude, ChatGPT u otro sistema intervino en la generación de un texto no significa necesariamente que la IA sea su autora. La creación asistida por IA puede tener grados muy diferentes de intervención humana. No es lo mismo dar una instrucción de una línea que desarrollar ideas, aportar documentación, diseñar la estructura y modificar profundamente un borrador generado por IA.
La cuestión jurídica relevante no será simplemente “¿Se utilizó inteligencia artificial?”, sino:
“¿Cuál fue realmente la aportación humana al resultado final?”
Esta diferencia es crucial en materia de propiedad intelectual, donde la protección mediante derechos de autor sigue vinculada a la creación humana.
Implicaciones: de la prueba judicial a la reputación empresarial
La identificación técnica del contenido generado por IA puede tener consecuencias procesales, convirtiéndose en un elemento probatorio en litigios sobre propiedad intelectual, fraude o competencia desleal. Sin embargo, su valor no será absoluto; habrá que analizar la fiabilidad del sistema, su resistencia a modificaciones y la cadena de custodia digital.
Las implicaciones van más allá de lo legal y afectan directamente al mundo empresarial. Las compañías utilizan IA para informes, comunicaciones, contratos y marketing. La AI Act obliga a revisar cómo se usan estas herramientas y, sobre todo, qué controles humanos existen. Una política interna de IA ya no solo debe definir qué herramientas usar, sino también cuándo revisar el contenido, cómo documentar la intervención humana y cuándo existen obligaciones de transparencia.
Un nuevo ámbito de asesoramiento jurídico
La implantación del AI Act está creando un nuevo ámbito de cumplimiento normativo. Firmas como Ferrer-Bonsoms & Sanjurjo ya asesoran en este campo, ayudando a las empresas a usar herramientas como Claude o ChatGPT de forma jurídicamente segura. El reto es establecer procedimientos internos que acrediten el cumplimiento de la normativa.
La IA empieza a dejar huella
Durante los primeros años de la IA generativa, su atractivo residía en la dificultad para distinguir entre una creación humana y una de máquina. Europa está cambiando este paradigma. La incorporación de mecanismos de identificación hará el origen de los contenidos cada vez más trazable. Sin embargo, esta trazabilidad abre una cuestión más compleja: saber que una IA participó no nos dice cuánto creó la máquina y cuánto la persona. La tecnología puede empezar a decirnos de dónde salió un texto, pero determinar quién es jurídicamente su autor seguirá siendo una cuestión de Derecho.
Ignacio Ferrer-Bonsoms, abogado digital, https://bacsociety.com/ especialista en tokenizaciones y criptoactivos.
