El CEO de Google DeepMind, Demis Hassabis, ha lanzado una propuesta para la creación de un nuevo organismo regulador destinado a supervisar el lanzamiento de los modelos de inteligencia artificial más avanzados, conocidos como modelos de frontera.
Publicación en X
En una publicación titulada «Un marco para la IA de frontera y el amanecer de una nueva era», Hassabis aboga por un “organismo de normalización” que pruebe los modelos y desarrolle mejores prácticas para su despliegue.
Un modelo inspirado en el sector financiero
La propuesta se inspira directamente en la Autoridad Reguladora de la Industria Financiera (FINRA), una organización que se autorregula para proteger a los inversores y garantizar la integridad del mercado en Estados Unidos. La idea es adaptar este modelo al vertiginoso mundo de la inteligencia artificial.
¿Qué es FINRA?
La Autoridad Reguladora de la Industria Financiera (FINRA) es una organización privada estadounidense que se autorregula para supervisar a las empresas de corretaje que operan en el país. Aunque es una entidad no gubernamental, opera bajo la supervisión de la Comisión de Bolsa y Valores (SEC). Su misión principal es proteger a los inversores y garantizar la integridad del mercado financiero mediante la creación y aplicación de reglas.
Según el plan de Hassabis, este nuevo organismo sería el encargado de evaluar los modelos de frontera antes de que lleguen al público, estableciendo un estándar de seguridad y responsabilidad en la industria.
Funcionamiento y proceso de revisión
El sistema propuesto comenzaría con una fase voluntaria. «Inicialmente, los laboratorios de frontera compartirían voluntariamente sus modelos con el organismo de estándares para su revisión hasta 30 días antes de su lanzamiento», detalla la publicación. Este período permitiría una evaluación exhaustiva de posibles riesgos y vulnerabilidades.
Puntos Clave del Proceso
Una vez que se demuestre que el protocolo de evaluación es efectivo y sólido, la formalización podría seguir rápidamente, lo que significaría que los modelos de frontera tendrían que aprobarlo para ser implementados en el mercado de EE. UU.
Además, los laboratorios colaborarían con el organismo para abordar cualquier vulnerabilidad crítica que se descubra después del lanzamiento, asegurando un ciclo de vida de supervisión continua.
Contexto y controversia regulatoria
Este sistema busca mejorar las revisiones ad hoc que el gobierno de EE. UU. ha realizado sobre modelos como Mythos de Anthropic y Sol de OpenAI. Dichas revisiones generaron críticas por una aparente falta de experiencia técnica y opacidad en la toma de decisiones. La propuesta de Hassabis transferiría esta responsabilidad a una nueva organización, respaldada por el gobierno pero financiada por la industria y operada de forma independiente.
Sin embargo, la regulación de la IA sigue siendo un tema controvertido. Recientemente, Sriram Krishnan, asesor de IA de la Casa Blanca y socio general en a16z, descartó la posibilidad de un regulador centralizado, afirmando que «no habrá una FDA para la IA».
Perfil: Google DeepMind
Google DeepMind es un laboratorio de investigación de inteligencia artificial de renombre mundial y una subsidiaria de Google. Su misión es «resolver la inteligencia» para avanzar en la ciencia y beneficiar a la humanidad. Fundada originalmente como DeepMind Technologies en 2010 por Demis Hassabis, Shane Legg y Mustafa Suleyman, fue adquirida por Google en 2014. En 2023, se fusionó con el equipo de Google Brain para consolidar los esfuerzos de IA de la compañía. Con sede en Londres, Reino Unido, la organización está a la vanguardia de la investigación en áreas como el aprendizaje profundo, el aprendizaje por refuerzo y la búsqueda de la Inteligencia Artificial General (AGI).
- Sede: Londres, Reino Unido
- Fundación: 2010 (adquirida por Google en 2014)
- Fundadores: Demis Hassabis, Shane Legg, Mustafa Suleyman
- Web: Visitar sitio oficial
Ventajas del enfoque autorregulatorio
Establecer el organismo como una organización autorreguladora podría ser la clave para superar estas preocupaciones. Hassabis prevé que el regulador cuente con representantes de la comunidad de código abierto y expertos técnicos de la industria. El respaldo financiero provendría de los propios laboratorios de IA, lo que permitiría atraer y retener al mejor talento. Incluso se contempla la subcontratación de evaluaciones a grupos especializados en riesgos específicos de seguridad en IA.
«La ventaja de este enfoque es que estaría centrado en lo técnico y, al mismo tiempo, apoyaría la innovación e incentivaría el comportamiento responsable», sostiene Hassabis. «Está diseñado para seguir el ritmo de la aceleración del campo y adaptarse a los mayores riesgos a medida que se identifican, y podría intensificarse si la gravedad de la situación lo exige».
