Los días del dominio absoluto de Nvidia en el mercado de la inteligencia artificial no han terminado, pero están surgiendo competidores y alternativas desde todas las direcciones. La última en mover ficha es ZML, una prometedora startup francesa de IA que cuenta con el respaldo del prestigioso ganador del Premio Turing, Yann LeCun. La compañía ha lanzado un innovador software de rendimiento de inferencia que permite ejecutar una gran variedad de modelos de lenguaje de código abierto sobre múltiples arquitecturas de chips, incluyendo Nvidia, AMD, las TPU de Google, Apple Metal e Intel Arc.
Puntos Clave
ZML/LLMD busca romper los silos de hardware, permitiendo a las empresas utilizar una combinación de chips para ejecutar modelos de IA a máxima velocidad, reduciendo costes y dependencia de un único proveedor.
Rompiendo las Barreras del Hardware con ZML/LLMD
El nuevo producto, bautizado como ZML/LLMD, es un servidor de inferencia para Modelos de Lenguaje Grandes (LLM) cuya ambición es clara: derribar los silos existentes y hacer que diferentes chips sean accesibles para casos de uso de IA a su máxima velocidad disponible, y en ocasiones, incluso más rápido. Así lo afirma Steeve Morin, fundador de ZML.
A medida que la IA se integra en nuestra vida profesional y cotidiana, la optimización de la inferencia se ha vuelto más crucial que el propio entrenamiento de los modelos. Sin embargo, el ecosistema actual está fragmentado por barreras de software y arquitectura que conducen a una fuerte dependencia de proveedores específicos.
¿Qué es la Inferencia en IA?
La inferencia es el proceso mediante el cual un modelo de inteligencia artificial ya entrenado utiliza su conocimiento para hacer predicciones o tomar decisiones sobre datos nuevos y desconocidos. En el contexto de los LLM, es lo que ocurre cuando un usuario introduce una pregunta o una instrucción (un ‘prompt’) y el modelo genera una respuesta. Optimizar la inferencia es clave para que las aplicaciones de IA sean rápidas, eficientes y escalables.
La promesa de ZML de alcanzar el máximo rendimiento en una amplia variedad de chips no es solo una proeza tecnológica, sino que también podría ser un disruptor del mercado, especialmente en un momento de creciente preocupación por los costes asociados a la IA. La startup espera ofrecer a empresas y proveedores de nube la flexibilidad de usar una combinación de chips, algunos de los cuales podrían ser menos costosos o más eficientes energéticamente.
Impulsando el Ecosistema Europeo de Chips
Este tipo de soporte de software podría ser un catalizador para los nuevos fabricantes de chips de IA, muchos de los cuales son europeos. Morin cita a empresas como Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, Spinncloud y VSORA. Para Morin, más allá del origen, lo importante es la capacidad de colaborar en «cosas que no se han hecho antes en ningún lugar del mundo».
Perfil: ZML
ZML es una startup de inteligencia artificial con sede en París, fundada en 2023 por Steeve Morin, ex Vicepresidente de Ingeniería en Zenly (adquirida por Snap en 2017). La compañía se enfoca en crear software de aprendizaje automático de alto rendimiento que sea agnóstico al hardware, con el objetivo de democratizar el acceso a la computación de IA eficiente. ZML ha recaudado 20 millones de dólares de un grupo de inversores de primer nivel, incluyendo 20VC, >commit, AALVC, Drysdale Ventures, Kima Ventures, Kindred Capital, LocalGlobe y Puzzle Ventures, además de figuras influyentes como Solomon Hykes (fundador de Docker) y los fundadores de Hugging Face.
Navegando la «Fiebre del Oro» de la Inferencia
La inferencia se ha convertido en un área de inversión tan intensa que ya se habla de una «fiebre del oro». En este contexto, ZML se enfrenta a una competencia formidable. Entre sus rivales se encuentran Baseten; Inferact, los creadores del popular proyecto de código abierto vLLM; y RadixArk, la empresa comercial detrás de SGLang.
Aunque vLLM y SGLang compiten parcialmente con LLMD, las ambiciones de Morin para ZML son más amplias. «Hemos llegado al punto en el que estamos co-diseñando silicio», afirma, destacando la profunda integración técnica que busca su equipo de 20 personas. Este tamaño reducido, según Morin, es una ventaja que les permite moverse con gran agilidad.
Cronología Clave de ZML
| 2017 | Zenly, co-fundada por Steeve Morin, es adquirida por Snap Inc. |
| 2023 | Steeve Morin funda ZML en París y recauda una ronda de financiación de $20 millones. |
| 2024 | Lanzamiento del framework de Machine Learning de ZML (código abierto). |
| Julio 2024 | Lanzamiento de ZML/LLMD, el servidor de inferencia multi-chip, como producto gratuito. |
Estrategia de Producto y Visión a Futuro
A diferencia de su primer proyecto, el framework de Machine Learning de ZML que es de código abierto, ZML/LLMD se lanza como un producto gratuito pero de código cerrado. El objetivo inicial es aprender de su uso en el mundo real. «Prefiero medir y luego generar ingresos donde sea más efectivo, sin obstaculizar estúpidamente mi crecimiento por haber sido demasiado codicioso desde el principio», explica Morin.
Aunque es pronto para saber cuándo se convertirá en un producto de pago, el respaldo que ha recibido la startup es una señal de que fundadores influyentes están prestando atención. La lista de inversores incluye a Solomon Hykes (fundador de Dagger y Docker), Clément Delangue y Julien Chaumond de Hugging Face, y el propio Yann LeCun. Este apoyo refuerza el argumento de que las startups europeas de IA pueden construir tecnología puntera desde casa. «No podría hacer ZML en ningún otro lugar que no fuera París», concluye Morin.
