Infrastructures : l’IA va faire sortir l’IT du cloud public

Des points de tension qui ne sont plus anecdotiques

Goldman Sachs Research prévoit que la demande mondiale en électricité des datacenters pourrait augmenter de 165 % d’ici 2030 en raison de la croissance de l’IA. Dans le même temps, les hyperscalers peinent à obtenir une capacité électrique suffisante. Dans certaines régions des États-Unis, les projets de datacenters attendent depuis des années d’être raccordés au réseau, car les infrastructures de transport d’électricité ne parviennent tout simplement pas à suivre le rythme de la demande. Et la situation est encore pire dans les pays dont les infrastructures sont moins développées.

Il ne s’agit pas seulement d’un problème temporaire lié à la logistique. C’est un problème structurel.

Les infrastructures modernes d’IA consomment de l’énergie à des niveaux que l’informatique d’entreprise traditionnelle n’avait jamais envisagés. Les densités de rack, qui fonctionnaient autrefois sans problème à 10-20 kW, dépassent désormais les 100 kW pour les charges de travail liées à l’IA. Les besoins en refroidissement augmentent au même rythme, entraînant une consommation d’eau plus importante et une surveillance accrue de la part des collectivités locales et des communautés.

La donne économique évolue également. McKinsey estime que la course à la construction d’infrastructures de calcul pour l’IA pourrait nécessiter des investissements de plusieurs milliers de milliards de dollars au cours des prochaines années. Mais injecter davantage d’argent dans des campus géants ne résout pas le goulet d’étranglement sous-jacent. Les réseaux de production et de distribution d’électricité évoluent bien plus lentement que la demande en matière d’IA.

Dans de nombreux cas, c’est désormais le réseau électrique qui constitue le facteur limitant, et non plus la technologie. Cette réalité commence à redéfinir la stratégie en matière d’infrastructure.

Plutôt que de concentrer la puissance de calcul dans une poignée de sites gigantesques, les entreprises s’orientent de plus en plus vers des architectures distribuées qui rapprochent les charges de travail des utilisateurs, de leurs équipements et de leurs sources de données. Le Edge computing, autrefois considéré comme une architecture de niche pour les objets connectés, devient rapidement un élément central de l’ère de l’IA.

Les applications d’inférence exigent une faible latence, une réactivité en temps réel et une interaction continue avec les utilisateurs et les équipements. Envoyer chaque requête vers un hyperscaler distant entraîne des retards, augmente la congestion du réseau et gaspille inutilement de l’énergie lors du transport des données. Les recherches montrent systématiquement que l’informatique en périphérie peut réduire la latence, améliorer l’efficacité de la bande passante et diminuer la consommation énergétique globale pour de nombreuses charges de travail.

L’architecture même de l’IA évolue en dehors des hyperscalers

L’entraînement de grands modèles de base nécessitera toujours d’énormes clusters de calcul centralisés, qui ne sont pas près de disparaître. Mais l’inférence — la partie de l’IA avec laquelle les utilisateurs interagissent au quotidien — tire de plus en plus parti d’une répartition géographique. Qu’il s’agisse de véhicules autonomes, d’automatisation industrielle, de diagnostics médicaux, de villes intelligentes ou d’analyses en temps réel dans le commerce de détail, plus le calcul est proche du point d’interaction, plus le système gagne en efficacité et en réactivité.

Certains analystes du secteur parlent déjà de « révolution du Edge computing ». Des installations régionales plus petites, des micro-datacenters modulaires et des nœuds périphériques intelligents commencent à compléter — voire, dans certains cas, à remplacer — les architectures centralisées traditionnelles.

Certaines organisations contournent même complètement les goulots d’étranglement du réseau électrique. De nouveaux modèles d’infrastructure d’IA distribuée voient le jour, permettant de placer des clusters de calcul modulaires à proximité immédiate des sources d’énergie renouvelables, réduisant ainsi la dépendance vis-à-vis de réseaux de transport saturés. Au lieu de transporter l’électricité sur de longues distances vers des campus gigantesques, la puissance de calcul se rapproche des sources d’énergie disponibles.

Un renversement significatif de la conception traditionnelle du cloud

Pendant des années, le secteur a été optimisé pour la consolidation. La centralisation a permis de réaliser des économies d’échelle, de simplifier la gestion et d’optimiser l’utilisation du matériel. L’IA change la donne, car la ressource limitante n’est plus seulement l’efficacité de calcul, mais aussi la disponibilité énergétique, la sensibilité à la latence et la résilience de l’infrastructure.

Un modèle de calcul distribué réduit également la fragilité des systèmes. Concentrer d’importants volumes de puissance de calcul mondiale au sein d’un nombre relativement restreint de régions cloud engendre des risques opérationnels et géopolitiques. Les pannes de réseau, les pénuries d’eau, les restrictions réglementaires ou les perturbations régionales peuvent avoir des répercussions disproportionnées. Une infrastructure distribuée répartit ce risque tout en renforçant la souveraineté et la résilience locales.

L’avenir des infrastructures ne sera probablement pas défini par le plus grand datacenter. Il sera défini par la répartition la plus intelligente de la puissance de calcul. La question n’est plus de savoir où se trouve le datacenter. La question est de savoir où la puissance de calcul doit se trouver, et de plus en plus, la réponse est « partout ».