Infrastructure IA : AMD dévoile Helios, sa réponse au DGX de Nvidia

Comme chez Nvidia, la machine comprend 72 GPU interconnectés. Elle permettrait aux hébergeurs de services d’IA de produire 30 % de tokens en plus pour un coût d’exploitation similaire.

AMD a enfin dévoilé Helios, la baie de calcul d’IA bardée de 72 de ses tout derniers GPU MI455X et qui se veut un concurrent direct du DGX NVL72, le cluster de calcul que Nvidia propose depuis plus de deux ans aux hyperscalers.

Sur le papier, les caractéristiques techniques de cette machine sont supérieures à celles du dernier modèle DGX Vera Rubin NVL72. Une puissance de 1,45 exaflops (1,4 milliard de milliards d’opérations arithmétiques par seconde) en précision 8 bits et le double, 2,9 exaflops, en précision 4 bits, contre 1,26 et 2,52 exaflops/s chez la concurrence. Un total de 31 To de mémoire HBM4, contre 20,7 To. Une vitesse cumulée de 1,7 Po/s contre 1,58 Po/s en ce qui concerne les flots de données que les GPU lisent ou écrivent dans leur mémoire HBM.

Seule la bande passante entre les GPU est similaire dans les deux cas : 260 To/s. Enfin, la bande passante entre deux clusters est environ 1,5 fois plus importante chez AMD, soit 43 To/s, contre 28,8 To/s chez Nvidia.

« Nous avons passé du temps avec nos clients avant de lancer Helios. Et la conclusion de nos conversations est sans appel : la demande pour une telle configuration de calcul est énorme. Et elle est même appelée à croître encore quand nous voyons les commandes qu’OpenAI, Meta, ou encore Anthropic nous passent dès aujourd’hui pour des livraisons dans les années à venir. Mais cela n’a rien d’étonnant, car plus l’IA devient utile, plus la demande pour en utiliser augmente », a lancé Lisa Su, la PDG d’AMD (en photo en haut de cet article), lors du discours d’ouverture de l’événement AMD Advancing AI 2026 qui se tient cette semaine à San Francisco.

Selon elle, les premiers exemplaires d’Helios seront livrés dès la rentrée, à un rythme qui ne cessera de croître jusqu’à l’été 2027. Outre les grands éditeurs d’IA, qui, manifestement, préfèrent désormais acheter eux-mêmes leurs infrastructures de calcul, les clients d’Helios comprennent également Azure et OCI, soit les clouds publics de Microsoft et Oracle.

« Nous ne sommes pas des suiveurs. Nous avons la conviction que nous serons sous peu le no 1 des clusters de calcul. Comme nous sommes devenus les leaders dans les autres segments d’un marché informatique qui va désormais peser 2 000 milliards de dollars. En apportant la meilleure technologie dans un écosystème standardisé », a ajouté Lisa Su, lors d’un point presse, en réponse à une question qui évoquait l’arrivée d’AMD sur un segment de marché principalement détenu par Nvidia.

Selon elle, Helios devrait permettre aux hébergeurs de services de calcul d’IA de proposer à leurs clients 30 % de tokens générés en plus pour un coût d’exploitation similaire.

Une baie deux fois plus large que d’ordinaire

Dans le détail, le cluster Helios est composé de 18 serveurs de calcul et 6 switches pour les interconnecter, tous au format 1U et tous refroidis à l’eau. Cependant la différence la plus frappante avec une baie NVL72 est la largeur. Alors que la machine de Nvidia obéit au format OCP (Open Compute Platform) simple de 48U sur 24 pouces de large, celle d’AMD est deux fois plus large, soit 48 pouces, mais sur 44U de haut.

Selon Mark Chubb, le patron de la division qui a conçu le design d’Helios, cette taille est la clé d’une machine excessivement facile à maintenir. De fait, au lieu de deux cartes mères contenant chacune deux GPU Rubin et un processeur Vera dans les serveurs de calcul d’une baie DGX NVL72, chaque serveur d’Helios est composé d’une multitude de cartes autonomes.

On en dénombre quatre pour autant de GPU MI455X, une pour l’unique processeur Epyc 9006 qui gère l’ensemble avec ses seize barrettes mémoires, deux cartes réseau pour communiquer avec les autres serveurs. Toutes reliées les unes aux autres par des tresses de câbles en cuivre. À la fin, chaque serveur pèse à lui seul près de 77 kg.

Mark Chubb est un ancien de ZT Systems, l’entreprise spécialisée dans l’assemblage de serveurs à façon pour les hébergeurs, qu’AMD a rachetée en 2024.

La consommation totale d’Helios est comprise entre 225 et 245 kW selon la charge de calcul, contre 190 à 230 kW pour une baie Vera Rubin NVL72. « Concernant le refroidissement liquide, nous faisons circuler dans la machine 385 litres par minute, soit environ 1,6 litre par minute pour chaque kilowatt », précise Mark Chubb. Ce chiffre est similaire au 1,5 litre d’eau par minute et par kilowatt à refroidir que Dell annonce pour ses serveurs dépourvus de ventilateurs, dont sa version du DGX NVL 72.

Une machine de 72 GPU et non un cluster de serveurs en réseau

« La force d’une machine comme Helios est d’être véritablement un réseau de 72 GPU, chacun capable d’écrire directement dans la mémoire d’un autre. Cela abolit toutes les latences que vous trouvez d’ordinaire dans les clusters de calcul, où, basiquement, vous mettriez neuf serveurs de huit GPU qui ne communiquent entre eux que par des liens Ethernet entrecoupés de switches », vante Mark Chubb.

Le protocole que les GPU utilisent pour communiquer entre eux est l’UALink, soit un protocole standardisé censé concurrencer le propriétaire NVLink de Nvidia. UALink (Ultra Accelerator Link) est maintenu par un consortium d’une centaine de fournisseurs, parmi lesquels AMD et Intel, les hyperscalers AWS, Azure, GCP, Apple et Meta.

Dans Helios, le protocole UALink est transporté sur des liens Ultra Ethernet, là aussi une extension standardisée de RoCE (RDMA over Converged Ethernet, qui est lui-même une extension d’Ethernet) qui se veut concurrente de Spectrum-X, l’extension propriétaire de RoCE par Nvidia. AMD parle d’UALink-over-Ethernet, ou UALoE. Chaque GPU est connecté, à l’arrière du serveur, à 36 liens UALoE et chacun de ces liens véhicule 200 Gbit/s, soit en communication entrante, soit en communication sortante.

36 liens par GPU, multipliés par 36 connexions (une communication par paire de GPU) le tout multiplié par 200 Gbit/s, puis divisé par 10 (pour passer d’un paquet d’environ 10 bits à 1 octet utile) donne effectivement à peu près 260 To/s de vitesse cumulée. Les liens sont interconnectés au sein des six switches réseau présents au milieu de la machine Helios.

Chaque GPU dispose également de quatre liens vers l’intérieur du serveur. Un de ces liens est de type Infinity Fabric, soit le bus propriétaire qu’AMD utilise tout le temps pour interconnecter ses puces sur une carte mère. Ce lien transporte 256 Go/s entre le GPU et le processeur Epyx 9006 central, lequel dispose donc de quatre liens Infinity Fabric. Les trois autres liens sont des UALink et ils sont reliés à l’une des deux cartes réseau Ultra Ethernet qui offrent chacune six ports 200 Gbit/s en face avant de la machine. Si on multiplie 200 Gbit/s par 6 ports et par 18 serveurs, on obtient les fameux 43 To/s de bande passante extérieure.

Ces cartes sont des Pensando Vulcano, soit la troisième génération de DPU fabriqués par AMD. Les DPU sont des contrôleurs Ethernet qui prennent en charge les commandes de stockage, de compression et de sécurité.

Pour approfondir sur Hardware IA (GPU, FPGA, etc.)