AMD se está quitando los guantes en la carrera armamentista de la IA
AMD parece lista para luchar. En su evento Advancing AI, la compañía finalmente lanzó su GPU Instinct MI300X AI, de la que escuchamos por primera vez hace unos meses. Lo interesante es el rendimiento que AMD afirma en comparación con el elefante verde de IA en la sala: Nvidia.
Especificación por especificación, AMD afirma que el MI300X supera a la GPU H100 AI de Nvidia en capacidad de memoria y ancho de banda de memoria, y es capaz de alcanzar 1,3 veces el rendimiento teórico del H100 en operaciones FP8 y FP16. AMD demostró esto con dos modelos de lenguaje grande (LLM) que utilizan un núcleo mediano y grande. El MI300X mostró una mejora de entre 1,1 y 1,2 veces en comparación con el H100.
En un momento que parece sacado directamente de una conferencia de Nvidia, la directora ejecutiva de AMD, Lisa Su, presentó la plataforma MI300X, que combina ocho de las GPU en una sola placa. AMD dice que estas placas ofrecen el mismo rendimiento de entrenamiento que la H100 HGX de Nvidia y 1,6 veces el rendimiento de inferencia. Además, AMD dice que puede ejecutar dos LLM por sistema, mientras que H100 HGX solo puede manejar uno.
Para ilustrar cuán importante es este acuerdo, AMD invitó al director de tecnología de Microsoft, Kevin Scott, a hablar sobre cómo AMD y Microsoft están trabajando juntos en la IA. Es importante resaltar que el popular ChatGPT se ejecuta en servidores de Microsoft y originalmente fue entrenado en miles de GPU de Nvidia .
Además del MI300X, AMD anunció el MI300A, que es la primera APU para IA, según AMD. Combina la arquitectura de GPU CDNA 3 AI de AMD con 24 núcleos de CPU Zen 4, junto con 128 GB de memoria HBM3. AMD dice que se trata de un equilibrio entre el rendimiento de la IA y la informática de alto rendimiento, ofreciendo la destreza de la CPU que vimos recientemente en Threadripper 7000 a los centros de datos.
A pesar de subirse al carro de la IA con el resto del mundo tecnológico, AMD ha pasado a un segundo plano frente a Nvidia hasta este momento. Nvidia comenzó a invertir mucho en IA hace años, lo que le dio una gran ventaja sobre AMD e Intel. Esa inversión inicial ha catapultado a Nvidia a convertirse este año en una empresa de un billón de dólares .
Con un grupo de GPU que está posicionado para desafiar a la H100 de Nvidia, así como asociaciones con Meta y Microsoft, AMD finalmente está entrando al ring. AMD puede salir magullado y ensangrentado, pero todavía parece que AMD está listo para dar pelea.