Dossier réseau : quelle infrastructure pour l’IA ?

Introduction

Entre les serveurs qui calculent et les baies de disques qui stockent, les réseaux sont la colonne vertébrale des infrastructures à déployer pour exécuter des projets d’IA. Ce guide a vocation à présenter les efforts des fournisseurs pour repousser les limites actuelles de réseaux qui ont surtout été conçus, jusque-là, dans le but de véhiculer de simples applications. 

Sur le plan purement matériel, il s’agit d’accélérer les transferts. Des connexions en 800 Gbit/s ont fait leur apparition en 2025 au sein des datacenters. Mais à une telle vitesse, les fibres optiques deviennent essentielles, même pour des liaisons entre des serveurs situés dans le même rack. Problème, les embouts qui convertissent les signaux électriques des switches en signaux lumineux coûtent une fortune à l’achat et en énergie. Les fabricants commencent donc à revoir complètement la manière de concevoir et d’architecturer les puces photoniques qui assurent cette conversion. 

L’autre enjeu matériel est de parvenir à relier suffisamment de serveurs accélérés pour atteindre une certaine puissance de calcul. Physiquement, il est probable qu’il ne soit pas possible de mettre assez de GPU dans une seule baie rack – pour des raisons de coûts, de densité, voire de performances unitaires. Les fournisseurs réseau se réunissent donc pour mettre au point des réseaux qui maintiennent les communications directes entre GPU au-delà d’une baie, au-delà d’une rangée de baies, voire entre des datacenters différents. 

Mais il va aussi falloir repenser la logique de communication. Nvidia travaille à faire sortir des serveurs la mémoire des GPU afin qu’ils deviennent capables de faire des calculs sur des données se trouvant physiquement dans d’autres serveurs. Pour Cisco, la question de déporter une partie des calculs ailleurs est moins matérielle que logicielle. Au cœur de ce genre de problématiques, les benchmarks MLPerf font office d’autorités pour mesurer quelles architectures en réseau aboutissent à des résultats probants. 

Une dernière problématique liée aux réseaux des IA est, paradoxalement, l’opportunité de ne pas les utiliser. Parce que dans de nombreux cas, à commencer par celui des développeurs, c’est un contresens de payer pour des infrastructures de communication quand il s’agit juste de tester des IA avant de les partager. Ce dossier fait donc aussi le point sur les possibilités d’utiliser une IA en vase clos, depuis une seule machine. 

Ce dossier est la suite du guide que LeMagIT a récemment consacré aux offres des fabricants de serveurs pour l’IA.

1Switches-

L’enjeu de communiquer en 800 Gbit/s

2Grands clusters-

Chercher de la puissance dans d’autres serveurs, mais sans ralentissement

3Stratégies-

Communiquer d’autres types de données

4Sans réseau-

L’opportunité de faire de l’IA en vase clos