Puces AI : Qualcomm détaille ses futurs CPU et GPU pour serveurs
Le fabricant de puces ARM pour smartphones et PC portables travaille sur un processeur Dragonfly C1000 doté de plus de 250 cœurs et sur des cartes GPU équipées d’un nouveau type de mémoire, la HBC, qui revient à de la HBM avec un circuit de calcul intégré.
Qualcomm, dont les puces étaient jusque-là conçues pour les machines personnelles, ambitionne désormais de peupler les serveurs des datacenters. D’ici à 2028, il commercialisera un Dragonfly C1000 – contenant sans doute 256 cœurs ARM Oryon, pouvant fonctionner à une fréquence de plus de 5 GHz – et qui se montrerait deux fois meilleur en matière de performance par watt que les actuels processeurs pour serveurs.
Meta, la maison mère de Facebook et Instagram, a déjà annoncé qu’il en équipera ses infrastructures. Parmi les 35 fabricants de matériels susceptibles de construire des machines avec ce processeur, et mis à part ceux qui fonctionnent en marque blanche (Foxconn, Supermicro, Quanta…), Qualcomm cite une seule marque de serveurs d’entreprises, Lenovo, et le fournisseur de solutions de stockage pour l’IA Vast Data.
Il lancera en même temps un GPU Dragonfly AI300 conçu pour accélérer l’inférence et qui se voudrait entre quatre et huit fois meilleur que les GPU actuels en termes de bande passante atteinte par watt d’énergie consommée. Le détail le plus saillant de ce GPU sera l’architecture propriétaire High Bandwidth Compute (HBC), que Qualcomm présente comme une alternative six fois plus efficace aux mémoires HBM aujourd’hui intégrées dans les GPU haut de gamme.
Qualcomm avait précédemment annoncé le rachat l’éditeur Modular pour se doter de bibliothèques de programmation spécialisées dans l’inférence.
HBC : comme de la HBM, mais avec un circuit de calcul intégré
La particularité de cette mémoire HBC est que les différentes couches de DRAM ne sont pas empilées au-dessus d’un large bus connecté aux circuits de calcul du GPU (cas de la HBM), mais au-dessus d’un petit processeur censé faire des prétraitements avant d’envoyer les données au GPU.
« Le problème des architectures conventionnelles à base de HBM est qu’elles nécessitent de faire voyager les données vers les circuits de calcul à chaque opération. Or, toutes les opérations ne sont pas des calculs », avance Rashid Attar, le patron de la nouvelle entité Datacenter Engineering de Qualcomm, dans un billet de blog.
Selon lui, les multiples opérations qui consistent à simplement rassembler des données depuis différents endroits de la mémoire en amont d’un calcul seraient celles qui coûtent le plus d’énergie et de bande passante dans les applications d’IA actuelles.
« Donc l’idée est de répartir les opérations. Le GPU continue de faire ce pour quoi il est le plus doué (les calculs), tandis que la mémoire HBC se charge d’exécuter elle-même les opérations logistiques », détaille-t-il.
Manifestement, les fonctions du processeur intégré à la mémoire HBC ne sont pas figées : « le circuit de traitement dans la HBC peut être conçu pour offrir une fourchette de fonctionnalités, qui va d’un petit jeu de fonctions accélérées à l’intégralité des capacités d’un processeur », ajoute Rashid Attar. Il ne dit pas s’il s’agira de simplement tailler l’étendue des fonctions actives, dans un firmware par exemple, ou d’aller jusqu’à installer ses propres fonctions, un peu comme si ce circuit était un FPGA.
Trois cartes GPU, dont deux avec de la HBC
La mémoire HBC devrait faire sa première apparition en 2027, au sein d’une première carte GPU pour serveurs, la Dragonfly AI250. Cette carte PCIe 6.0 embarquera une impressionnante capacité de 768 Go de mémoire HBC et offrirait une bande passante « effective » de 133 To/s. Il sera possible d’en mettre huit par serveur (soit un cumul de 6 To de HBC), lesquels devraient avoir une hauteur minimale de 5U.
La carte GPU Dragonfly AI300, elle, devrait avoir une mémoire HBC dite de seconde génération, censée tripler la bande passante « effective » de la première génération. On ignore à ce stade ce que Qualcomm entend par « effectif », à savoir s’il parle de la vitesse de transfert mesurée sur le bus entre le GPU et la HBC, ou s’il estime une quantité de données pouvant être traitée par seconde, en tenant compte de la bande passante interne à la mémoire HBC et celle mesurée sur son bus extérieur.
La carte GPU Dragonfly AI300 ne devrait fonctionner qu’avec le processeur Dragonfly C1000. À l’inverse, le processeur Dragonfly C1000 n’aura pas besoin de la Dragonfly AI300 pour exécuter des applications courantes.
Ces deux cartes seront les descendantes de la carte PCIe Dragonfly AI200 que Qualcomm teste actuellement chez différents hyperscalers. Au format OCP (Open Compute Platform, pour les hébergeurs), elle embarque elle aussi jusqu’à 768 Go de mémoire, mais via des composants LPDDR5 plus classiques. À cause de cette mémoire, l’AI200 serait ainsi 18 fois moins rapide que la future AI250 et 54 fois moins rapide que l’AI300 qui viendra ensuite.