Tryfonov - stock.adobe.com
Infrastructures d’IA : Gartner prévoit des milliards de dépréciations
La plupart des néoclouds auront disparu d’ici 2030, prédit le cabinet d'analystes. Ces acteurs de l'infrastructure seront incapables rentabiliser leurs investissements, faute de clients. S’en suivra une consolidation du marché.
Pour Gartner, les fournisseurs d’infrastructures IA ne pourront pas rentabiliser les milliards de dollars qu’ils sont en train d’investir. Dans des prévisions publiées mi-octobre, il évalue à 3 500 milliards $, ces investissements qui seront dépréciés. Ce qui provoquera une vague de consolidations d’ici 2030.
Les acteurs de ce marché devraient en effet investir jusqu’à 7 000 milliards $ sur la période. Avec, en plus, des coûts de financement et un rendement de 12 % du capital à assurer, il leur faudrait en contrepartie 8 500 milliards $ de revenus. Or, toujours selon Gartner, le marché ne devrait générer que 3 500 milliards $.
Les entreprises les plus touchées par ces tendances, si elles se confirment, seront les néoclouds, indique Will Sommer, senior director analyst chez Gartner. Ces fournisseurs, apparus spécifiquement pour traiter les charges de travail d’IA, ont connu une véritable « explosion cambrienne ».
« Nous partons du principe que 80 % des néoclouds auront cessé d’être des acteurs indépendants d’ici 2030 », prédit-il. « Cela ne veut pas dire que leurs capacités de calcul vont disparaître. Perdre son indépendance peut passer par un rachat ou un partenariat. Toutes les entreprises qui disparaîtront ne feront pas faillite », explicite-t-il.
Reste que voir un fournisseur connu absorbé par un autre soulève des questions importantes pour les DSI. La pérennité des néoclouds et leur mode de financement pourraient aussi peser sur le dilemme « build vs buy » (construire ou acheter).
« Pour la première fois depuis bien longtemps, l’équation économique commence à pencher vers le “build” et à s’éloigner du “buy” ou du “partner” », juge Will Sommer. « Cela ne signifie pas que le “build” soit préférable partout, mais il commence à être beaucoup plus attractif et pertinent. »
Build ou Buy, où est le ROI ?
Dans le même temps, les ressources de calcul et le stockage subissent une pénurie et voient leurs prix exploser. La situation devrait durer, au moins à court terme.
Pour trouver une forme d’équilibre, certaines organisations ont recours à des équipements en « edge » pour au moins une partie de leurs traitements d’IA, constate Will Sommer. Elles vont même jusqu’à utiliser des Mac Mini et des ordinateurs portables équipés de GPU.
« Faire tourner des modèles de taille relativement réduite en local, sur un laptop musclé, sur un serveur on prem, ou avec un mix des deux, tout dépendra du cas d’usage », souligne-t-il. « Mais nous voyons clairement davantage d’opportunités pour ce type de déploiements, vu la nature de l’IA, la rareté structurelle des infrastructures et la pression sur les coûts. »
Mais évaluer l’intérêt d’un matériel en local ne se résume pas à comparer son coût à celui d’un service cloud. Il faut aussi estimer le taux d’utilisation probable de l’investissement on prem, et vérifier que des modèles plus légers suffiront à une application donnée, avertit Steve Koelpin, ingénieur en observabilité de l’IA, qui fait justement tourner des modèles sur ses propres machines.
Ces petits modèles de langage (SLM) sont, par nature, moins performants que les modèles frontières pour générer des réponses rapides. « Le seul moyen d’obtenir un bon ROI avec les modèles que vous pouvez exécuter en local, c’est de saturer votre infrastructure 24 heures sur 24 », assure Steve Koelpin.
« Cette approche est donc adaptée quand vous ne dialoguez pas en direct avec le modèle, mais que vous le laissez mener de longs workflows agentiques autonomes, sans avoir à le surveiller », poursuit-il.
Mais dans tous les cas, retirer un ROI de l’IA reste aujourd’hui un challenge. C’est en tout cas ce que disent plusieurs études menées par d’autres cabinets d’analystes.
Une enquête d’HyperFrame Research auprès de plus de 500 dirigeants et décideurs IT révèle par exemple que 48 % des projets d’IA et de machine learning sont passés en production, mais que seulement 27 % ont atteint leurs objectifs de performances ou les KPI fixés. Le résultat reste tout de même en hausse par rapport à l’enquête précédente, au premier trimestre, où à peine 23 % des projets y parvenaient.
Dans une autre enquête de septembre sur les infrastructures, VentureBeat Research constate que seuls 21,6 % des répondants disent suivre rigoureusement le ROI de leurs infrastructures d’IA. Parmi eux, 45,5 % ont fait valider ce chiffre de ROI par leur direction financière, soit à peine 9,8 % de l’ensemble des répondants, précise Rob Strechay, l’analyste qui a mené l’enquête.
« C’est assez révélateur. Personne n’est encore à ce niveau de maturité », observe-t-il. « Nous sommes aussi encore loin du moment où les organisations comprendront qu’elles dépensent trop. »
Les études divergent sur l’intérêt des entreprises pour les néoclouds
Pour ne rien arranger, les études divergent fortement sur l’appétence des entreprises pour les néoclouds.
Selon l’enquête d’HyperFrame, seulement 2 % des répondants utiliseraient des néoclouds. Ce taux devrait grimper à terme à 8 %. À titre de comparaison, 59 % utilisent AWS et 51 % Azure.
L’étude de VentureBeat, en revanche, avance que 42,1 % des répondants seraient intéressés par l’idée de faire davantage appel aux néoclouds.
Quoi qu’il en soit, même si le secteur se consolide fortement d’ici 2030, les entreprises auront encore de nombreuses occasions à court terme de se procurer des capacités d’IA auprès de ces fournisseurs, estime Rob Strechay.
« C’est une question que les DSI doivent poser à leurs néoclouds : comment se financent-ils et qu’est-ce que cela implique sur le long terme ? », insiste-t-il. « Mais la plupart des entreprises qui se tournent vers les néoclouds le font pour des contrats de deux ou trois ans […] 2030, c’est dans 4 ans. Cela paraît proche. Mais à l’échelle de l’IA, cela ressemble plutôt à dix ans. »
De leur côté, les hyperscalers sont bien plus diversifiés que les néoclouds. Ils sont donc plus résistants. Mais ils ne sont pas pour autant à l’abri de dépréciations sur les énormes investissements qu’ils engagent dans leurs infrastructures, prévient Will Sommer.
« À la fin de l’histoire, tous les hyperscalers s’imposeront-ils sur ce marché ? Rien n’est encore joué », analyse-t-il. « Il se peut que certains hyperscalers, ou quasi-hyperscalers, se lancent dans la bataille, ne gagnent pas assez de parts de marché pour rester fournisseurs de GPU-as-a-service, et qu’ils se repositionnent sur autre chose. »
Les trois géants du cloud pourront certainement absorber des pertes sur leurs infrastructures d’IA. Mais des fournisseurs de cloud de second rang pourraient, eux, être rattrapés par la consolidation, souligne Rob Strechay.
« Certains acteurs sont adossés à des fonds. Leur problème est donc de savoir combien d’argent ils doivent aller chercher pour racheter un autre cloud, voire le retirer de la cote », explique-t-il, des neoclouds comme CoreWeave et Nebius étant au Nasdaq. « À mesure que les prix de ces datacenters d’IA baisseront, la consolidation sera inévitable. Il est tout simplement impossible que tous survivent. »
