Google detalla medidas de seguridad para las funciones agentes de Chrome

Google detalla su enfoque para la seguridad en las funciones agentes de Chrome

Un número creciente de navegadores está experimentando con funciones de agentes que actúan en nombre del usuario, realizando tareas como reservar boletos o comprar artículos. Sin embargo, estas capacidades también conllevan riesgos de seguridad que podrían provocar la pérdida de datos o dinero.

Google ha presentado un enfoque detallado para manejar la seguridad del usuario en Chrome, basado en modelos de observador y mecanismos de consentimiento para la acción del usuario. Estas funciones agentes, cuya vista previa fue lanzada en septiembre, se implementarán en los próximos meses.

Para controlar las acciones de los agentes, Google utiliza modelos de inteligencia artificial avanzados. En concreto, ha desarrollado un crítico de alineación de usuarios basado en Gemini, que examina las acciones planificadas por el modelo de planificación para una tarea específica. Si el crítico determina que las acciones no se alinean con el objetivo del usuario, solicita que se reconsidere la estrategia. Importante destacar que este crítico sólo accede a los metadatos de las acciones propuestas, sin ver el contenido web real.

Para limitar el acceso a sitios no permitidos o no confiables, Google implementa Conjuntos de Orígenes de Agentes, que restringen al modelo a acceder sólo a orígenes de solo lectura o de lectura y escritura. Por ejemplo, en un sitio de compras, el agente puede consumir contenido relevante como listados de productos, pero no anuncios publicitarios. Además, el agente sólo puede interactuar con ciertos iframes específicos dentro de una página.

Esta delimitación asegura que el agente sólo tenga acceso a un conjunto limitado de datos y que estos datos sólo puedan transmitirse a orígenes autorizados, limitando así vectores de amenaza por filtraciones entre orígenes. El navegador puede incluso impedir enviar datos fuera del conjunto legible al modelo, reforzando la separación y seguridad.

Google también supervisa la navegación de páginas mediante otro modelo de observador que investiga las URL, evitando que el agente navegue a sitios dañinos generados por modelos.

Google otorga control a los usuarios para tareas delicadas. Por ejemplo, cuando un agente intenta acceder a sitios con información confidencial como datos bancarios o médicos, solicita permiso al usuario. Para sitios que requieren inicio de sesión, pide autorización para usar el administrador de contraseñas, sin exponer al modelo los datos de contraseña. También se pregunta al usuario antes de realizar acciones como compras o enviar mensajes.

Además, Google ha implementado un clasificador de inyección rápida para prevenir acciones no deseadas y está probando las capacidades de los agentes contra ataques diseñados por investigadores de seguridad.

Otros fabricantes de navegadores con IA también están enfocados en la seguridad. Por ejemplo, a principios de este mes, Perplexity lanzó un modelo de detección de contenido de código abierto para prevenir ataques rápidos de inyección contra agentes.