Meta, empeñada en alcanzar a sus rivales en el espacio de la IA generativa, está gastando miles de millones en el esfuerzo. Una parte de esos miles de millones se destina a reclutar investigadores de IA. Pero se está gastando una parte aún mayor en el desarrollo de hardware, específicamente chips para ejecutar y entrenar los modelos de IA de Meta.
Meta presentó el fruto más reciente de sus esfuerzos de desarrollo de chips, después de que Intel anunciara su último hardware acelerador de IA. Llamado Meta Training and Inference Accelerator (MTIA) de “próxima generación”, el sucesor del MTIA v1 del año pasado, el chip ejecuta modelos que incluyen la clasificación y recomendación de anuncios gráficos en las propiedades de Meta (por ejemplo, Facebook).
El MTIA de próxima generación es de 5 nm, en contraste con MTIA v1, que fue desarrollado para un proceso de 7 nm. (El «proceso» en la fabricación de chips se refiere al tamaño del componente más pequeño que se puede construir en el chip en nanometros, nm). El diseño físico del MTIA de próxima generación es más grande y cuenta con más núcleos de procesamiento que su predecesor. Aunque consume más energía (90 W frente a 25 W), también tiene más memoria interna (128 MB frente a 64 MB) y funciona a una velocidad de reloj promedio más alta (1,35 GHz frente a 800 MHz).
El MTIA de próxima generación, según Meta, está actualmente disponible en 16 regiones de centros de datos y ofrece un rendimiento general hasta tres veces superior al de MTIA v1. Si la afirmación de «3x» parece ambigua, no está equivocado. Sin embargo, Meta afirmó que la cifra se obtuvo al evaluar el desempeño de «cuatro modelos clave» en ambos chips.
«Podemos lograr una mayor eficiencia en comparación con las GPU disponibles comercialmente porque controlamos toda la pila», escribe Meta en una publicación de su blog.
En primer lugar, Meta anuncia en la publicación del blog que en este momento no está utilizando el MTIA de próxima generación para cargas de trabajo de entrenamiento de IA generativa, a pesar de que la empresa afirma que tiene «varios programas en marcha» para investigar este tema. En segundo lugar, Meta reconoce que el MTIA de próxima generación complementará a las GPU en lugar de reemplazarlas para ejecutar o entrenar modelos.
Meta avanza lentamente, tal vez más de lo que ellos esperan.
Es probable que los equipos de IA de Meta estén bajo presión para disminuir los costes. Para fines de 2024, la empresa está dispuesta a invertir alrededor de 18 mil millones de dólares en GPU para entrenar y ejecutar modelos de IA generativa. Dado que los costes de capacitación para modelos generativos de vanguardia son decenas de millones de dólares, el hardware interno es una opción atractiva.
Mientras el hardware de Meta se deteriora, los competidores están tomando el control, lo que preocupa al liderazgo de Meta.
Esta semana, Google presentó TPU v5p, su chip personalizado de quinta generación para entrenar modelos de IA, y Axion, su primer chip de ejecución de modelos. Amazon tiene una variedad de familias de chips de IA personalizados. El año anterior, Microsoft debutó con el acelerador Azure Maia AI y la CPU Azure Cobalt 100.
Meta afirma en la publicación del blog que «pasar del primer silicio a los modelos de producción» del MTIA de próxima generación llevó menos de nueve meses, lo que, para ser justos, es más corto que la ventana típica entre los TPU de Google. Sin embargo, Meta debe trabajar arduamente para actualizarse si espera lograr cierta autonomía de las GPU de terceros y estar a la altura de su agresiva competencia.
