IA générative : le temps des tests et des déploiements… et des questions sur le ROI

Une compétence IA Gen interne chez Edenred

Edenred, le spécialiste des services et des paiements pour le B2B, a défini en Comex comme prioritaires les domaines du « customer care et des ventes », déclare Andreea Lachapelle, sa Chief Data Officer.

Des pilotes, menés sur plusieurs pays pendant un trimestre, entrent à présent en phase de déploiement avec la sélection des partenaires pour passer au stade de l’industrialisation. C’est d’ailleurs cette étape de l’industrialisation technique qui a suscité le plus de discussions, explique la CDO.

Aux chantiers sur des cas d’usage prioritaires s’ajoutent des tests sur l’ensemble des lignes métiers du groupe. Mais dans un cadre gouverné « pour s’assurer que cela ne part pas dans tous les sens ».

« Nous essayons d’être à la pointe pour suivre les avancées algorithmiques et plus largement la stack technique et les bons partenaires […] Nous avons conservé une approche très structurée. »

Sur le volet technique, Edenred discute également avec les fournisseurs de sa stack IT pour préparer l’arrivée de nouvelles applications et évaluer sa compatibilité.

Une version ChatGPT interne a aussi été mise à disposition, uniquement pour le moment pour la population des praticiens de la donnée. L’IA est fournie par l’intermédiaire d’un tenant sécurisé. Un pilote de l’agent conversationnel pour les autres métiers est en cours.

Afin de consolider sa stratégie IA générative et son catalogue d’outils, Edenred attend de bénéficier d’une meilleure visibilité sur les solutions d’IA embarquées par Microsoft dans ses applications (en premier lieu Office 365). L’objectif est de « comparer les solutions, de bien calibrer nos PoC et les négociations commerciales », précise Andreea Lachapelle.

Pour mener à bien ces initiatives, Edenred a aussi mobilisé ses experts pour décortiquer la partie algorithmique des modèles d’IA Gen. Une manière de monter en compétences, mais aussi « de préparer la suite avec nos spécialistes de la conformité. Nous anticipons les questions à venir pour certains cas d’usage sur la compliance, ainsi que sur la sécurité. »

Des pilotes sans données sensibles

RSSI et DPO ont d’ailleurs été impliqués très en amont. Pour répondre à leurs préoccupations, la version publique de ChatGPT a été interdite. En outre, les tests ont été réalisés uniquement sur des données publiques et non sensibles, excluant pour le moment les datas client et sur les personnels.

En matière d’organisation, l’entreprise a monté une « squad » de Data Scientists spécialisés sur les LLM. « Nous essayons d’être à la pointe pour suivre les avancées algorithmiques et plus largement la stack technique et les bons partenaires […] Nous avons conservé une approche très structurée. » 

Avec ces différents pilotes, Edenred cherche à mesurer précisément l’adoption et les usages réels, ainsi qu’à garantir la disponibilité des fondamentaux. Cette étape, insiste Andreea Lachapelle, est essentielle avant d’aborder la contractualisation. Nécessaire aussi pour éviter un effet déceptif. Elle permet, enfin, de préparer des formations adaptées à chaque métier utilisateur.

Une question reste cependant en suspens chez Edenred : l’identification d’un cas d’usage assorti d’une garantie en termes de création de valeur – mesurable en euros.

Des premiers cas d’usage proches de l’industrialisation

L’entité Data & IA d'un grand industriel européen de l'aéronautique (qui ne souhaite pas être nommé) mène aussi des projets en IA générative. Son directeur, témoigne depuis un an de l’accélération « fabuleuse » de l’IA et de sa démocratisation. L’industriel a décidé de tester rapidement le potentiel de ces modèles.

L’entreprise a dû pour cela sortir de sa stack technique de référence (AWS et Sagemaker) en se dotant d’une instance privée de GPT sur Azure. Celle-ci est ouverte à un millier d'utilisateurs depuis la fin de l'année.

« Cela ne sert à rien de se précipiter pour monter une stack qui dans 6 mois risque d’être obsolète. »

Quant à la version publique de l’agent conversationnel, elle n’est pas bannie, mais son usage est encadré par des règles de gouvernance.

En termes de cas d’usage, le premier pilote ciblé, avec les métiers, a porté sur le composant technique qui contient le moteur de l'avion.

Au support, les contacts liés à ce composant représentent plusieurs milliers de cas par an. Avec l’IA générative (via un modèle open source), le support effectue des recherches dans la base de connaissances pour traiter les demandes. Les tests ont été jugés concluants et le projet est en cours d’industrialisation.

Un ROI pas toujours simple à chiffrer

Au travers d’Office 365, l'industriel teste également l’IA générative intégrée. Comme Edenred, il cherche à « comprendre les cas d’usage » et à mesurer la valeur, dans une approche qualifiée de « techno push. »

La démarche est différente sur les usages métiers et commence par une phase d’identification « des cas d’usage offrant le plus de potentiel ».

Le directeur de l'entité Data & IA défend une approche pragmatique et progressive. « Cela ne sert à rien de se précipiter pour monter une stack qui dans 6 mois risque d’être obsolète », lance-t-il.

Et là encore comme chez Endered, l'industriel estime, lui aussi, que la mesure du ROI n’est pas toujours évidente.

À l’inverse, pour Franck Moine, directeur innovation du groupe Bouygues, le ROI est indiscutable sur certains projets, comme celui mis en œuvre dans la branche Telecom du groupe.

Avec l’IA Gen, les conseillers clientèle disposent désormais d’un résumé automatique des conversations. Ces synthèses seraient d’une qualité supérieure à celles produites par les humains. Pour quelques milliers d’euros par mois, l’opérateur économise ainsi de nombreuses heures de travail. « Il n’y a pas de débat sur le ROI », affirme Franck Moine.

Pour Thomas Lewiner, Chief Data Officer de Ceva Santé Animale, la valeur s’apprécie au cas par cas. Et elle n’est pas nécessairement obtenue en ajoutant une couche data. « Les nouvelles demandes d’automatiser certains processus révèlent parfois qu’il faut simplement les supprimer. Le simple fait que l’IA générative soit facilement disponible, avant même les questions nécessaires de qualité et de confidentialité, permet déjà d’identifier des économies », argue-t-il.

Pour d’autres IA génératives, utilisées par exemple pour prédire des mutations de virus ou développer des protéines, d’autres bénéfices semblent évidents. « Il ne s’agit pas de faire des économies, mais de réaliser des recherches et à une vitesse qui nous étaient inaccessibles auparavant. »

Des bénéfices qui dépassent les économies

Frédéric Chassard, directeur de la Data de LCL, souligne aussi les bénéfices (indirects) à attendre sur le volet développement logiciel (par exemple avec Github Copilot). Il anticipe un déplacement de l’activité des développeurs, au profit notamment des tâches de qualification et de documentation du code. « Ces outils peuvent être intéressants pour redocumenter ou migrer du code », juge-t-il.

Pour les applications dites orphelines (anciennes, mais toujours en production), l’IA générative pourrait permettre de les documenter et donc d’adresser en partie la dette technique associée à ces logiciels.

Concernant ces IA à destination des développeurs, Aurélia Dine, Digital Culture Manager de Technip Energies, appelle à voir au-delà du ROI pour mesurer un retour sur expérience. La valeur des outils résiderait non seulement dans le temps économisé, mais aussi dans la qualité de vie au travail ou l’expérience collaborateur.

Aurélia Dine observe d’ailleurs l’apparition d’offres d’emploi dans lesquelles les employeurs communiquent sur la fourniture de Copilot aux candidats. Demain, l’IA Gen véritable outil d’attractivité ?

Reste que ces applications ont un coût : à la licence s’ajoute celui de l’adoption, précise Aurélia Dine. Et cette dépense liée aux solutions Microsoft est pleinement à la charge des entreprises, ce qui ne manque pas de faire grincer des dents au sein des directions financières.

Une réflexion qui englobe les évolutions des métiers

Andreea Lachapelle d’Edenred confirme, les entreprises ont besoin de mesurer des ROI pour ces usages, comme un raccourcissement des cycles de développement ou une amélioration de la qualité du code. Pour la CDO, cela implique une implication des managers dans l’évaluation des performances des collaborateurs.

« On ne peut pas concevoir l’arrivée de ces produits d’IA sans avoir une réflexion globale sur le métier et ses tâches associées. »

Elle estime en outre que l’adoption et son coût tendent à être sous-estimés. Pour elle, la vitesse d’adoption est aussi corrélée à la maturité Data des entreprises. Et dans ce domaine, toutes ne sont pas à égalité.

Yoel Tordjman, le CEO de DataScientest, s’interroge lui aussi sur la valeur d’un outil comme Copilot, facturé 30 euros par mois et par utilisateur. L’éditeur considère qu’il n’a pas encore le recul suffisant pour en estimer la valeur ajoutée pour les utilisateurs. Et la littérature fait aujourd’hui défaut sur ce sujet, pointe-t-il.

Franck Moine, de Bouygues, appelle aussi à intégrer les discussions autour de l’IA Gen à une réflexion plus globale sur les métiers et leurs évolutions afin de définir les futurs contours des grandes fonctions de l’entreprise. Par un « Grenelle de chaque métier », Bouygues identifie en tout cas déjà les mutations à venir et déploie un accompagnement au changement.

« On ne peut pas concevoir l’arrivée de ces produits d’IA sans avoir une réflexion globale sur le métier et ses tâches associées », assure le patron de l’innovation du groupe français.