DSX Pod : Nvidia se lance dans la conception de data centers préfabriqués

DSX Pod, un conteneur de 28 tonnes équipé de 7 racks Vera Rubin NVL72

Dans le détail, ce conteneur contient sept racks Vera Rubin NVL72, deux racks Spectrum-X et un rack destiné à la gestion de l’alimentation. Ils sont déjà raccordés et branchés aux tuyaux destinés au refroidissement. Le tout pèse 28 tonnes. « Nous avons dû penser à la manière de renforcer le conteur, de le déplacer, de l’expédier, d’éviter les vibrations, car ces systèmes sont très sensibles à tous ces facteurs. Cela a nécessité un important travail d’ingénierie », déclare Dion Harris, directeur senior de la mise sur le marché des solutions HPC et AI Factory chez Nvidia, auprès du MagIT.

Le géant fabless n’est pas le seul investi sur ce projet. Il travaille d’un côté avec Bull, Dell, Gigabyte, HPE, Ingrasys (Foxconn), Lenovo, Pegatron, QCT (Quanta Cloud Technology) et Wistron. De l’autre, Anduril, Armada, Crusoe, DayOne, Delta Computer, Eaton, Schneider Electric et Vertiv participent à la conception et l’équipement du conteneur en lui-même.

Cet effort d’ingénierie est censé simplifier le travail des fournisseurs qui déploient des data centers IA.  

« Nous constatons que de nombreuses entreprises spécialisées dans l’IA ont du mal à mettre ces systèmes en service », poursuit Dion Harris. « Même lorsqu’elles ont passé la longue attente causée par la pénurie, elles doivent ensuite passer par des mois d’intégration au cours desquels elles doivent câbler tous ces systèmes, les intégrer, les tester et les valider. Et cela prend souvent entre 4 et 6 mois avant même de pouvoir commencer à exécuter des charges de travail ».

Avec DSX Pod, la promesse de Nvidia est de réduire ce délai de 6 mois à 14 jours. Les clients finaux n’auraient plus qu’à raccorder l’électricité, l’eau, les systèmes de refroidissement, d’évaporation de la chaleur et la fibre. Cela n’élimine pas le travail de préparation des sites, précise Nvidia dans une foire aux questions. Le fournisseur cible plus particulièrement les déploiements « greenfield », des terrains vierges ou des friches industrielles équipés pour accueillir de nouveaux data centers.

Avec 1,3 mégawatt par conteneur, 30 unités mobiliseraient 39 MW de puissance électrique pour un total de 750 exaflops à l’inférence (25 par unité).

Des data centers préfabriqués pour répondre le plus rapidement possible à la demande

Crusoe, qui est avant tout un neocloud, a sa propre vision de ce centre de données modulaire. Il a présenté le 21 octobre Crusoe Spark Liquid, la sixième génération de son unité préfabriquée. Plus proche d’une baraque, elle peut supporter jusqu’à 3,5 MW de puissance électrique. Néanmoins, il partage son savoir-faire à la fois pour le monétiser et profiter des développements autour de l’architecture de référence. Ce que propose Nvidia ressemble davantage aux Edge Zones de Crusoe, à savoir des conteneurs que ses clients peuvent installer à proximité de leur propre data center ou au sein de zones industrielles pour servir des besoins d’IA locale à faible latence.

« Nous avons examiné l’ensemble de l’écosystème et nous nous sommes demandé comment collaborer avec les développeurs en présence pour développer cette plateforme », affirme Dion Harris.

Nvidia s’est par exemple inspiré du travail de Bull qui, avec le Julich SuperComputing Centre et Eviden, a développé le supercalculateur Jupiter, en Allemagne. 50 conteneurs contenant des serveurs BullSequana XH3000 sont alimentés par 38 MW de puissance électrique.

« Idéalement, nous souhaitons donc que nos équipementiers (OEM) et nos fabricants de conception (ODM) s’appuient sur le modèle de référence pour le mettre en œuvre et le proposer à leurs clients », ajoute Dion Harris.

Interrogés par LeMagIT, Bull et Vertiv sont partants. Tommaso Cecchi, global sales HPC, IA et quantique chez Bull, voit là un design de référence idéal pour cibler les néoclouds. « Ces acteurs attendent que nous suivions l’architecture proposée par Nvidia », note-t-il. Propriété de l’État, Bull continuera de délivrer ses propres designs pour des clients plus institutionnels, comme le CEA. Ce type de conteneur pourrait également servir à propulser des cas d’usage liés à la défense (ou non) « dans les zones de conflit où les data centers sont pris pour cible. Vous pourriez avoir des data centers sur roue, à déployer aux endroits où l’électricité, le réseau et l’eau sont disponibles », anticipe le commercial.

L’équipementier et concepteur de modules pour data centers Vertiv voit là une prolongation des travaux qu’il a engagés avec et sans Nvidia. « Le marché a effectivement besoin d’une approche modulaire », croit Greg Stover, directeur monde du développement high-tech chez Vertiv. « Aux États-Unis et ailleurs, nous voyons les efforts humains et les investissements considérables pour faire sortir un centre de données hors de terre. Tout le monde cherche à accélérer le temps entre la livraison des GPU et leur exploitation », indique-t-il.

Selon le dirigeant de Nvidia, « l’intérêt est très vif. Nous n’annonçons pas encore de clients, mais bon nombre d’entre eux, comme les néoclouds, ainsi que de nombreux utilisateurs qui déploient des solutions sur site, manifestent une forte attention ».

De la sorte, ces entreprises pourraient déployer davantage de puissances de calcul « sans avoir à réaménager leurs centres de données existants ».

« Tant qu’il n’y a pas de limite physique, Nvidia poussera l’écosystème vers ce type de solutions. Il ne s’agit plus seulement de vendre des GPU ou des racks, mais aussi des conteneurs », comprend Greg Stover.

Nvidia, architecte en chef de l’infrastructure

Or le responsable chez Vertiv considère que les solutions modulaires cohabiteront avec les data centers plus traditionnels et les projets de retrofit. L’approche modulaire a fait ses preuves, mais l’efficacité des DSX Pod devra se vérifier sur le terrain, note-t-il.

« Nous avons vu de beaux modèles 3D et les simulations sont très utiles, mais tant que ce n’est pas déployé sur le terrain, vous ne pouvez pas figer l’architecture de référence », considère-t-il. « Vous devez toujours installer la plomberie, les refroidisseurs, les échangeurs, bâtir une architecture réseau adaptée, disposer des bonnes infrastructures électriques », insiste-t-il.

Cette solution ne sera pas non plus pour toutes les bourses. Et les néoclouds – croulant sous la demande – sont déjà fortement endettés.

Dion Harris sait tout cela. C’est aussi une charge supplémentaire pour Nvidia, d’après lui. « C’est une chaîne logistique hautement intégrée. Nous partageons non plus seulement des spécifications techniques, mais des pipelines réels et la délimitation du périmètre », affirme-t-il. « Cela crée beaucoup de travail pour Nvidia et l’écosystème, mais nous pensons que cela se traduira par de la valeur pour les clients qui peuvent accélérer la mise en service de leurs systèmes beaucoup plus rapidement ».

La priorité reste la mise à disposition des puces Vera Rubin et des racks NVL72, dans un contexte de pénurie de RAM et de NAND. « La production de masse est lancée. Nous espérons livrer les premiers systèmes complets ce trimestre », affirme Dion Harris.