Meta presenta la segunda generación de su acelerador MTIA para las cargas de trabajo con IA internas
Meta ha presentado una nueva generación de su acelerador MTIA, diseñado para ayudar a ofrecer la arquitectura más eficiente en las cargas de trabajo con inteligencia artificial (IA) internas de la compañía.
MTIA, que responde al nombre completo de Acelerador de entrenamiento e inferencia de Meta, se diseño con los modelos de recomendación de aprendizaje profundo de esta compañía en mente. Su nueva generación profundiza en la eficiencia y en el soporte a los desarrolladores de software.
Este elemento duplica el ancho de banda de cómputo y memoria con una arquitectura de red en chip, y está diseñado para servir de manera eficiente a los modelos de clasificación y recomendación de los sistemas de Meta, como explica esta compañía en su blog oficial.
El acelerador de segunda generación presenta en su interior de una cuadrícula de 8x8 de elementos de procesamiento, que proporcionan un rendimiento informático denso 3,5 veces mayor que la primera generación y un rendimiento informático disperso siete veces mejor.
Estas mejoras responden a amortizaciones en la arquitectura, que han permitido triplicar el tamaño del almacenamiento PE local, duplicar la SRAM en el chip, aumentar el ancho de banda en 3,5 veces y duplicar la capacidad de LPDDR5.
Meta ve en este acelerador un componente importante en su hoja de ruta a largo plazo para construir y escalar la infraestructura que soporte la cargas de trabajo de IA de la empresa. Actualmente, MTIA se ha implementado en centros de datos y presta servicios a modelos en producción.