Intel construye una gran supercomputadora con inteligencia químico: Xeon se encuentra con Gaudí2

Intel anunció el martes uno de los primeros despliegues a gran escala del mundo de sus aceleradores Gaudi2 para cargas de trabajo de inteligencia artificial (IA). Stability AI utilizará la supercomputadora, construida en colaboración con Dell, para sus aplicaciones de IA generativa.

La nueva supercomputadora de Intel se basa en los últimos procesadores escalables Intel Xeon de la compañía y ejecuta hasta 4.000 aceleradores de hardware Intel Habana Gaudi2 AI. Suponiendo que cada máquina utilice ocho procesadores Habana Gaudi2 en formato OAM (que es típico de las máquinas OAM), la máquina tiene hasta 500 nodos. Dado que el Gaudi2 de Intel ofrece un rendimiento tremendo comparable al H100 de Nvidia en ciertas aplicaciones, el superordenador debería ser bastante potente. Probablemente estemos viendo 7-8 ExaFLOPS FP16 de rendimiento de IA.

Intel y Dell no han revelado si seguirán asociándose para desarrollar supercomputadoras con inteligencia artificial en el futuro. Mientras tanto, para el diseñador de chips, es importante que uno de los proveedores de servidores más grandes del mundo tenga máquinas PowerEdge con sus procesadores Xeon Scalable y aceleradores Habana Gaudi2 desarrollados específicamente para cargas de trabajo de IA. Estas máquinas están diseñadas para manejar tanto entrenamiento a gran escala como inferencia básica.

Además de Dell, Alibaba Cloud dijo que el Xeon de cuarta generación puede alcanzar una velocidad de inferencia 3 veces mayor en su programa Model Serving Platform DashScope cuando se usa con aceleradores Advanced Matrix Extensions (Intel AMX) y varias optimizaciones de software.

Los procesadores de Intel alimentan muchas supercomputadoras e incluso los sistemas DGX H100 de Nvidia para aplicaciones de IA y computación de alto rendimiento (HPC), pero los aceleradores de IA y las GPU de computación de la compañía no han tenido tanta suerte y hay muy pocas IA basadas en Gaudí/Gaudi2 o Ponte Vecchio. . implementaciones hasta la fecha. Con Stability AI trabajando con Gaudi2, será interesante ver qué otras empresas deciden arriesgarse también.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Subir