En el corazón de Silicon Valley, un debate sobre las desventajas de la inteligencia artificial está ganando intensidad. La preocupación principal es que los gigantescos laboratorios de IA que comercializan modelos propietarios, como OpenAI y Anthropic, podrían estar actuando como caballos de Troya.
El temor es que, a medida que las empresas integran estos modelos en sus operaciones, los laboratorios obtienen un acceso sin precedentes a su información comercial más confidencial. Este conocimiento podría ser utilizado por los propios fabricantes de modelos para desarrollar productos competidores, convirtiendo a los clientes en involuntarios mentores de sus futuros rivales. Voces influyentes, desde el inversor Jason Calacanis hasta Alex Karp, CEO de Palantir, ya han expresado esta inquietud.
La sorprendente advertencia de Satya Nadella
En una reciente y contundente publicación de blog, el CEO de Microsoft, Satya Nadella, se ha sumado a este coro de advertencia. Nadella argumenta que los usuarios de IA están, en efecto, pagando un doble peaje: uno monetario por el uso de tokens y otro, mucho más valioso, en forma de datos y conocimiento exclusivo.
El Doble Costo de la Inteligencia Artificial
‘Básicamente, se paga dos veces por la inteligencia, una con dinero y otra con algo aún más valioso: el conocimiento exclusivo que se debe revelar para que esa inteligencia sea útil. ¡Cuanto mejor se quiera que funcione el modelo, más conocimiento se tendrá que alimentar!’
Nadella subraya que el peligro real reside en que las empresas están enseñando a los modelos los matices más íntimos de sus negocios. ‘Los modelos aprenden del ‘agotamiento’, de las indicaciones que escribe la gente, de las herramientas que utilizan los agentes y, especialmente, de las correcciones que la gente hace cuando el modelo es incorrecto. Cada corrección se destila en conocimiento institucional’, escribe. Este es un activo que un competidor jamás podría comprar, y sin embargo, se está cediendo.
La Paradoja de la Destilación y la Propiedad de los Datos
El CEO de Microsoft también aborda la hipocresía en las prácticas de entrenamiento de los modelos. Sostiene que si las empresas de IA pueden usar libremente los datos de internet para entrenar sus sistemas, es justo que las empresas usuarias puedan ‘destilar’ esos modelos para su propio aprendizaje.
¿Qué es la Destilación de Modelos?
La ‘destilación’ es una técnica en machine learning donde se utiliza un modelo grande y complejo (el ‘maestro’) para entrenar un modelo más pequeño y eficiente (el ‘alumno’). El modelo alumno aprende a imitar las salidas del modelo maestro, capturando su conocimiento de una forma más compacta y a menudo más barata de ejecutar.
Este punto es especialmente relevante. En febrero, Anthropic acusó a desarrolladores de modelos de código abierto en China de enviar millones de consultas a su modelo Claude para mejorar sus propios sistemas, instando a una regulación más estricta. Nadella considera irónico que los proveedores de modelos, que se benefician del uso justo de datos públicos, impongan términos restrictivos sobre la destilación a sus clientes.
La Solución: Soberanía de Datos y Orquestación
La solución propuesta por Nadella se alinea con la estrategia de un gigante de la nube. Insta a las empresas a ‘conservar la propiedad’ de todos sus datos de interacción con la IA, incluyendo prompts, correcciones y retroalimentación. Para ello, sugiere construir ‘entornos de aprendizaje propietarios’ en la nube, un guiño evidente a plataformas como Microsoft Azure.
Además, recomienda la adopción de ‘capas de orquestación’, sistemas que permiten cambiar fácilmente entre modelos de IA de diferentes proveedores, evitando así el ‘vendor lock-in’ o la dependencia de un único proveedor. Herramientas como las ‘puertas de enlace’ de IA, que facilitan esta flexibilidad, están ganando popularidad rápidamente.
Perfil: Microsoft
Microsoft es un gigante tecnológico multinacional que desarrolla, fabrica, licencia, soporta y vende software de computadora, productos electrónicos de consumo, computadoras personales y servicios relacionados. Es más conocido por su sistema operativo Windows, la suite de productividad Microsoft Office y su plataforma de computación en la nube, Azure, que juega un papel central en su estrategia de IA.
- Sede: Redmond, Washington, EE. UU.
- Fundación: 1975 por Bill Gates y Paul Allen
- Valoración: Empresa pública (MSFT) con una capitalización de mercado superior a los 3 billones de dólares.
- Inversiones Clave en IA: Inversor principal en OpenAI y también ha invertido en Anthropic.
- Web: Visitar sitio oficial | LinkedIn | X
El Auge Imparable del Código Abierto
Aunque Nadella no menciona explícitamente el ‘código abierto’, su mensaje resuena fuertemente con esta tendencia. Las grandes corporaciones ya están migrando hacia modelos de código abierto instalados en sus propias infraestructuras (‘on-premise’).
Idit Levine, fundadora y CEO de Solo.io, una empresa de software de redes y seguridad para sistemas de IA, confirma este cambio. ‘Después de experimentar con fabricantes de modelos propietarios, [nuestros clientes] comienzan a preguntarse: ¿Puedo tomar un modelo de código abierto y ejecutarlo localmente? Hará casi el 90% de lo que hace el grande. Costará mucho menos’, afirma. ‘Ellos entienden eso y pueden controlarlo’.
La tecnología de Solo.io fue seleccionada para impulsar el proyecto Agentgateway de la Linux Foundation, y entre sus clientes se encuentran gigantes como T-Mobile, ADP y SAP. Levine ve la adopción de modelos locales de código abierto como la próxima gran ola en la IA empresarial.
Esta tendencia está respaldada por datos. Plataformas como Vercel y OpenRouter están viendo un aumento masivo en el tráfico hacia modelos de código abierto.
El hecho de que el CEO de Microsoft, una empresa con enormes inversiones en el ecosistema propietario, esté instando a la cautela, es una señal inequívoca. La tendencia hacia la soberanía de los datos y el control local está destinada a crecer. Como concluye Nadella:
‘Al consumir inteligencia, estás creando inteligencia. Y lo que creas debería pertenecerte.’
