phonlamaiphoto - stock.adobe.com

La baisse des prix des modèles ne résoudra pas les problèmes budgétaires des DSI (Gartner)

Selon Gartner, la dépendance des entreprises à une IA de plus en plus puissante continuera de faire grimper leurs coûts globaux de façon exponentielle, même si le prix par token diminue.

L’usage de l’IA en entreprise passe des simples fonctions d’assistance à des processus multi-étapes. Les responsables techniques vont donc devoir faire face à des coûts d’inférence croissants, selon un rapport publié par Gartner. Le cabinet d’analystes prévoit même qu’ils seront multipliés par plus de cinq d’ici 2028.

La tokénisation en action

Les tokens deviennent peut-être plus abordables. Mais l’évolution des modèles de tarification de l’IA et la complexité de plus en plus grande des workflows compliquent la maîtrise des coûts.

« Chaque nouvelle génération de capacités IA nécessitera davantage de tokens, souvent plus coûteux », prévient Will Sommer, analyste directeur principal chez Gartner. « Aucun modèle unique, fiable et économique, ne se profile à l’horizon. »

L’agentique fait exploser les factures

Cette tendance ne pourra que s’amplifier avec les systèmes agentiques que les entreprises ont commencé à déployer en 2026. D’après des chiffres avancés par Gartner plus tôt ce mois-ci, les dépenses en infrastructure optimisée pour l’IA (le compute pour l’entraînement et pour le fonctionnement des LLM) devraient quasiment doubler d’ici la fin de l’année, pour atteindre 42 milliards de dollars.

Interrogé en juillet, Will Sommer évaluait la consommation mondiale de tokens à environ 300 000 milliards par jour, soit un taux de croissance annualisé de 500 à 600 %.

Le caractère imprévisible des coûts de l’IA pousserait également certaines entreprises à revoir leurs plans de déploiement. Près de la moitié des organisations ont indiqué avoir remonté à leur conseil d’administration des dépassements de dépenses IA, selon un autre rapport publié en juillet par l’éditeur de logiciels de gestion des coûts Mavvrik.

Le paradoxe de l’inférence

Le cabinet parle de « paradoxe de l’inférence », un phénomène où le coût global de l’IA s’envole sans offrir de trajectoire claire vers une valeur prévisible.

« Les dures réalités économiques du paradoxe de l’inférence se retrouvent dans les différences entre un simple chatbot et un agent IA », affirme Will Sommer. « Là où un chatbot doit lire et interpréter une requête, puis répondre rapidement par une réponse statistiquement raisonnable, un agent IA doit sans cesse raisonner, négocier et se remettre en question. »

Optimiser les workflows plutôt que subir les coûts

Obtenir un ROI de systèmes plus avancés exige donc des rendements bien supérieurs à ceux des modèles basiques, ajoute le rapport de Gartner. À défaut, les entreprises devront fortement optimiser leurs modèles pour accomplir des tâches complexes à un coût raisonnable.

Les deux options sont envisageables, mais elles supposent dans tous les cas une refonte importante des processus métiers.

« Chaque DSI aura ses propres enjeux critiques pour l’organisation », résume Will Sommer. « Le DSI doit travailler avec le reste de l’entreprise pour déterminer ces priorités, et si l’IA constitue une solution rentable ou non pour y répondre », conseille-t-il.

Pour approfondir sur IA Responsable, IA durable, explicabilité, cadre réglementaire