IA générative : Veolia satisfait du choix de l’internalisation

De la standardisation à la spécificité métier

Pour elle, ce cas ne signe pas la fin des projets d’IA internes sécurisés. « La tendance n’est pas la fin des versions internes, mais l’avènement d’une nouvelle stratégie nécessaire pour les entreprises. »

D’une part, en développant ses propres capacités agentiques, une organisation s’assure que la valeur ajoutée issue de l’automatisation de ses processus ne soit pas captée par des prestataires externes. Pour un industriel, des solutions spécifiques plutôt que des outils sur étagère permettent de porter les expertises critiques du groupe sans abandonner l’autonomie et l’indépendance technologiques.

Car la dépendance constitue un risque bien réel pour Noémie Sayada (le « vendor lock-in » ou le « Uber trap »). Veolia a donc fait le choix d’une plateforme interne qui agit comme une « colonne vertébrale d’orchestration ». Sa finalité n’est pas de concurrencer les modèles de Google ou de Microsoft. Elle a pour but d’assurer le contrôle de l’écosystème de données et de processus.

Cette approche permet en outre d’éviter l’« agentic chaos », une fragmentation où des outils isolés et incompatibles nuiraient à la sécurité et à l’efficacité globale du groupe.

Autonomie et efficacité : les impératifs de la plateforme interne

La rentabilité du modèle interne s’appuie sur une discipline FinOps rigoureuse, prévient cependant la Product Manager. En centralisant les ressources au sein d’une plateforme unique pour 40 business units, le groupe ambitionne d’éliminer les investissements redondants et de générer des économies d’échelle.

Quant au gain financier, comparativement aux coûts qu’engendreraient des solutions du marché, il est déjà significatif pour une direction de 2 000 employés. Une extrapolation de ces économies à l’échelle du groupe justifierait de fait pleinement le coût du développement interne.

La centralisation permettrait par ailleurs une capacité d’arbitrage technologique permanente face aux évolutions tarifaires du marché.

Une infrastructure « No Code » à l’échelle mondiale

Le déploiement auprès de 220 000 collaborateurs répartis dans 40 pays repose sur une approche « no-code ». Il s’agit de permettre aux ingénieurs de devenir créateurs d’agents sans maîtriser le développement logiciel.

La plateforme intègre un interpréteur de code Python et la capacité d’interroger jusqu’à 20 bases de connaissances simultanément. Outre un mode conversationnel multi-LLM avec des modèles comme Cohere ou DeepSeek, l’outil propose le « Matrix mode ». Ce mode non conversationnel est spécifiquement conçu pour l’évaluation massive de documents, comme les contrats ou les dossiers fournisseurs, sans limites de volumétrie.

Pour Veolia, cette approche doit assurer la pérennité du système face à l’obsolescence technologique. La plateforme se veut agnostique vis-à-vis des infrastructures et des modèles de données. Noémie Sayada ajoute qu’il est possible de basculer une source de données d’un stockage de Google Cloud (GCP) vers Microsoft Fabric en quelques minutes.

La capacité à basculer garantit aussi que l’outil s’adapte aux contraintes légales et géographiques locales, notamment en Asie.

Des usages du contrôleur qualité à l’opérateur de terrain

Veolia a comme ambition de mettre l’IA au service de profils non techniques. Par exemple, un contrôleur qualité en Allemagne, un « champion » formé à l’outil, a configuré des agents qui répondent aux points de friction spécifiques de son équipe de dix personnes, générant un retour sur investissement mesurable.

Cette dynamique se prolonge dans les usines avec le projet « Talk to my Plant ». Un agent surveille en temps réel les indicateurs de production, comme le ratio entre la vapeur produite et le tonnage de déchets. Il assiste les techniciens de maintenance en leur fournissant procédures et états des stocks de pièces détachées.

L’outil d’IA n’a pas vocation à remplacer l’opérateur, assure Noémie Sayada, elle génère une « mémoire collective » qui capitalise sur les succès passés. Dans une salle de contrôle, l’agent peut, par exemple, recommander d’« ouvrir la zone à 26 % pour optimiser la combustion », illustre-t-elle. Le système laisse alors à l’humain la décision finale de valider ou non l’ajustement.

Un nouveau standard pour l’industrie ?

Veolia revendique plus de 1 500 agents actifs et 800 créateurs formés. L’outil serait devenu la solution la plus consultée après la messagerie.

Pour atteindre ce niveau d’adoption, Noémie Sayada conseille une mise en œuvre rapide, et d’inclure les métiers dès la conception. Comme le souligne l’experte de Veolia, les employés attendent d’un outil interne un niveau d’immédiateté et d’accès à l’innovation similaire à ce qu’ils connaissent dans leur sphère personnelle.

Elle insiste également sur la maîtrise des coûts. L’IA est un poste de dépenses qui occupe une place de plus en plus importante dans les budgets. Une stratégie pérenne (surtout dans une entreprise très décentralisée comme Veolia) impose une mutualisation, afin d’éviter que chaque entité ne duplique des investissements similaires et de se retrouver avec une multitude d’agents isolés, incapables de communiquer entre eux et ne respectant pas les mêmes protocoles de sécurité.