Industrialisation de la GenAI chez Suez : architecture, gouvernance et outillage
Depuis fin 2023, Suez expérimente l'IA générative. Le groupe a depuis franchi un cap : celui de l'industrialisation. Derrière cette bascule, une plateforme centrale baptisée « GenAI Core », conçue pour piloter coûts, empreinte carbone et dépendances technologiques, sans laisser les métiers improviser.
L’approche de Suez est intéressante dans le sens où elle repose sur un socle IT conçu pour piloter à la fois les coûts, l’empreinte carbone et la sécurité des données, tout en préservant une souplesse face aux évolutions technologiques.
Le but est de garantir que chaque innovation métier s’appuie sur une infrastructure robuste et sécurisée. Selon Claire Mathieu, directrice Data & IA de Suez, cette structuration est un bon moyen de garantir la cohérence et la réplicabilité des solutions.
Sous la supervision de Patrice Couedel, architecte IA pour Suez, une équipe a mis en œuvre « GenAI Core », une « Landing Zone » dédiée à l’IA pour apporter de la gouvernance à une stack technologique complexe.
Piloter la gouvernance technique
Suez s’appuie aujourd’hui principalement sur la stack Microsoft Azure, mais la plateforme GenAI a été conçue pour rester agnostique. Ce choix permet d’intégrer des fonctionnalités sans dépendre des feuilles de route des fournisseurs cloud, et d’incorporer des modèles issus de divers fournisseurs ou de l’open source selon les besoins spécifiques des projets.
Limiter les dépendances constitue un pilier de cette infrastructure, insiste Claire Mathieu. Pour le traitement des données sensibles, des modèles hébergés sur des serveurs on-premise peuvent être utilisés ; ce qui exige toutefois une expertise fine pour leur installation et leur maintenance.
« En affichant le coût instantané, on favorise une culture de la sobriété numérique. »
Patrice CouedelArchitecte IA, Suez
« Pour passer les projets en production, il fallait une gouvernance qui garantisse la sécurité et la conformité. L’avantage de cette plateforme est de pouvoir valider toute cette couche pour réduire le temps de mise en production », ajoute Patrice Couedel.
La maîtrise des ressources est un autre axe de cette stratégie. Pour suivre les coûts par projet, l’équipe a développé ses propres outils de suivi financier et environnemental. La plateforme intègre des indicateurs de consommation des tokens et des services Azure utilisés par projet, ainsi qu’une estimation d’équivalent en émission de CO2 pour chaque requête, calculée à partir des données d’Ecologits et CodeCarbon.
Un exemple illustre la granularité recherchée : les outils d’OCR de Microsoft sont facturés à la page sans mécanisme de comptage natif pour la facturation interne. L’équipe a donc développé une solution sur mesure pour quantifier les volumes et imputer les coûts exacts à chaque cas. « En affichant le coût instantané de chaque usage et en imposant des quotas stricts, on favorise une culture de la sobriété numérique tout en garantissant la viabilité économique des 50 projets en cours », souligne Patrice Couedel.
Des sollicitations de support réduites de moitié
Cette rigueur opérationnelle s’accompagne d’un effort de simplification pour les développeurs. La mise à disposition d’un kit d’onboarding complet a réduit le besoin de support technique. Les sollicitations directes sont ainsi passées de 100 % à 50 % pour les nouveaux arrivants sur la plateforme.
Quant à l’ingestion documentaire, l’équipe a développé des solutions spécifiques pour le nettoyage des données et l’implémentation de systèmes RAG (Retrieval-Augmented Generation) sur SharePoint, avec une automatisation de la vectorisation dès l’ajout d’un document, dans le strict respect des droits d’accès initiaux. Toutes les briques techniques conçues en interne (éléments du design system, skills, intégration du SSO, etc.) sont mutualisées au sein d’une bibliothèque de code partagée pour accélérer les développements futurs.
Pour le vibe coding, la plateforme propose un outil alternatif développé par Suez, qui intègre un système de quota journalier là encore pour maîtriser les coûts.
« Nous sommes les premiers consommateurs de notre propre plateforme, » insiste l’architecte. « Cela nous permet de tester beaucoup de choses avant même que le métier nous remonte des problèmes ».
Côté IA agentique, les équipes évaluent les protocoles actuels, dont le MCP (Model Context Protocol), mais ces technologies restent aujourd’hui très consommatrices de tokens.
Copilot pour 30 000 collaborateurs, après un passage par SecureGPT
Pour les outils de productivité interne, le groupe déploie depuis 2026 Copilot Chat auprès de ses 30 000 collaborateurs équipés d’ordinateurs. Un programme d’acculturation complet accompagne ce déploiement, avec du coaching personnalisé pour les équipes dirigeantes et des webinaires pour les collaborateurs.
La démarche sert aussi à orienter les usages sensibles vers des environnements plus contrôlés.
La gouvernance IA priorise en effet les cas d’usage et évalue des risques. Elle s’étend aussi au processus d’achats de solutions tierces. Les Achats ont par exemple été formés pour poser des questions critiques sur la confidentialité et l’usage des données par les LLM tiers lors de la signature de nouveaux contrats.
La centralisation sur GenAI Core constitue par ailleurs un atout pour la mise en conformité avec le règlement européen AI Act. Une architecture centrale facilite l’auditabilité et la maîtrise des risques réglementaires.
« À l’horizon 2027, notre responsabilité est de piloter nos dépendances technologiques, d’accompagner les collaborateurs, et de maîtriser les risques en intégrant dès la conception les exigences de l’AI Act. Un sacré challenge ! », résume Claire Mathieu.
Pour approfondir sur IA appliquée, GenAI, IA infusée
