Nvidia vendió 900 toneladas de GPU H100 el postrer trimestre, según una firma de analistas

Cuando Nvidia dijo que vendió hardware de centro de datos por valor de 10.300 millones de dólares en el segundo trimestre de su año fiscal 2024, podríamos imaginar que la compañía vendió toneladas de sus GPU de cómputo H100 de alta gama, pero la firma investigadora de mercado Omdia afirma que Nvidia literalmente vendió 900 toneladas de procesadores H100 en el segundo trimestre de 2023.

Omdia estima que Nvidia envió más de 900 toneladas (1,8 millones de libras) de GPU de cómputo H100 para aplicaciones de inteligencia artificial (IA) y computación de alto rendimiento (HPC) en el segundo trimestre. Omdia estima que el peso promedio de una GPU de cómputo Nvidia H100 con disipador de calor es de más de 3 kilogramos (6,6 libras), por lo que Nvidia envió más de 300.000 H100 en el segundo trimestre.

La Nvidia H100 viene en tres factores de forma diferentes y todos tienen pesos diferentes. Una tarjeta PCIe Nvidia H100 pesa 1,2 kilogramos y, aunque se desconoce el peso del módulo Nvidia H100 SXM (le preguntamos a Nvidia), el peso de un módulo OAM con disipador de calor, que tiene aproximadamente el mismo tamaño y el mismo TDP que una H100 SXM. – alcanza los 2 kilogramos. Suponiendo que el 80% de los envíos de Nvidia H100 sean módulos y el 20% sean tarjetas, el peso medio de una sola H100 debería rondar los 1,84 kilogramos. Omdia dice que estimó el peso basándose en la cantidad de H100 que Nvidia supuestamente envió durante el segundo trimestre calendario. Entonces, el peso real podría ser inferior a 900 toneladas, pero aún podemos decir que Nvidia entregó literalmente toneladas de H100 en el segundo trimestre.

Omdia dice que espera que Nvidia venda aproximadamente la misma cantidad de GPU en los próximos trimestres. Por lo tanto, la compañía está en camino de vender alrededor de 3.600 toneladas, o 7,2 millones de libras, de GPU H100 este año. Esto equivale a aproximadamente 1,2 millones de GPU H100 por año, si el ritmo sigue siendo el mismo.

Esta es una estimación aproximada, pero enviar más de 300.000 GPU H100 en un trimestre es un logro significativo. Si bien imaginamos que el número H100 incluye las CPU H800 orientadas a China, también debemos tener en cuenta que la compañía está enviando toneladas (quizás literalmente) de sus GPU de computación A100, A800 y A30 de generación anterior a empresas que ya las usan para AI. inferencia y computación técnica, por lo que la cantidad real de GPU de computación que Nvidia vende por trimestre es considerablemente más de 300.000 y más de 900 toneladas en total.