Avec le battage médiatique viennent les bonimenteurs. Découvrez comment les entreprises exagèrent l’implication de l’IA dans leurs produits et services, et comment éviter de tomber dans le piège.
Chaque recoin de l’industrie technologique semble être infusé par l’IA en 2024. Des entreprises de divers secteurs vantent les mérites de produits et de services alimentés par l’IA, promettant une productivité accrue. Cependant, certaines affirmations sur l’inclusion de l’IA ne sont pas tout à fait véridiques.
Prenons l’exemple suivant. L’auteur de cet article a utilisé les algorithmes de recherche avancée et les modèles de langage de Google, les fonctions de pointe de vérification orthographique et d’autocomplétion de Microsoft Word, ainsi que des informations provenant des algorithmes de recommandation de YouTube, LinkedIn et de l’application Apple Podcasts. A-t-il été généré par l’IA ? Techniquement, non, mais il a été écrit avec l’aide de l’IA. Dire qu’il s’agit d’un article généré par l’IA est exagéré et pourrait même être considéré comme de l’AI Washing.
Gary Gensler, président de la Securities and Exchange Commission (SEC), a averti, dans un discours prononcé en février 2024 à l’université de Yale, que certaines entreprises se livraient à du blanchiment d'IA, ce qui peut enfreindre la législation américaine sur les valeurs mobilières, induire les consommateurs en erreur et nuire aux investisseurs. M. Gensler a exhorté les entreprises à divulguer les risques opérationnels, concurrentiels et juridiques spécifiques liés à leur utilisation de l'IA, ainsi que sa fonction commerciale spécifique.
Un an auparavant, la Federal Trade Commission (FTC) avait également mis en garde contre les affirmations fausses ou non fondées liées à l'intelligence artificielle. Cette tendance avait déjà été repérée par le cabinet d’analystes Gartner en 2017.
Qu'est-ce que l'AI Washing ?
L'AI Washing est une tactique de marketing utilisée par les entreprises pour exagérer la portée de la technologie de l'IA qu'elles utilisent dans leurs produits. L'objectif est de faire paraître les produits d'une entreprise plus avancés qu'ils ne le sont et de tirer parti de l'intérêt croissant pour la technologie de l'IA. L'IA Washing tire son nom du greenwashing (écoblanchiment), qui consiste pour les entreprises à faire des déclarations erronées ou trompeuses sur l'impact positif qu'elles ont sur l'environnement.
L'IA est un terme général désignant un champ d'études. Sa définition peut être nébuleuse et flexible, ce qui permet aux entreprises d'en élargir le sens et de tirer parti de sa popularité. Lorsque le consommateur moyen entend « IA » à propos d'un produit ou d'un service, il peut supposer que le vendeur parle d'« IA générative », parce que ce terme a été récemment porté à l'attention du public. Toutefois, l'IA peut désigner un large éventail de technologies informatiques, dont certaines pourraient ne pas susciter l'intérêt des consommateurs, des entreprises et des investisseurs s'ils savaient exactement comment l'IA est utilisée dans le produit.
Un billet de blog de la FTC datant de 2023 détaille quelques questions de base auxquelles une organisation peut répondre pour déterminer si elle s'adonne à l’AI Washing :
« Exagérez-vous les capacités de votre produit d'IA ? » Les allégations d'amélioration des performances doivent être inconditionnelles et étayées par des preuves scientifiques.
« Promettez-vous que votre produit d'IA fait quelque chose de plus qu'un produit sans IA ? » Cette affirmation doit être étayée par des preuves suffisantes, car elle peut être utilisée pour justifier une augmentation du prix du produit ou influencer les décisions en matière de main-d'œuvre.
« Êtes-vous conscient des risques ? » Les éditeurs de solutions d'IA sont responsables des effets de leurs produits une fois sur le marché.
« Le produit utilise-t-il même l'IA ? » L'utilisation d'un outil d'IA dans le processus de développement ne fait pas d'un produit une offre « alimentée par l'IA ».
« Vous n'avez pas besoin d'une machine pour prédire ce que la FTC pourrait faire lorsque ces affirmations ne sont pas étayées ».
Michael AtlesonAvocat, division des pratiques publicitaires, FTC
« Quoiqu'elle puisse ou ne puisse pas faire, l'IA est importante, tout comme le sont les affirmations que vous faites à son sujet », prévient Michael Atleson, avocat, membre de division des pratiques publicitaires de la FTC. « Vous n'avez pas besoin d'une machine pour prédire ce que la FTC pourrait faire lorsque ces affirmations ne sont pas étayées ». En clair, aux yeux de la FTC, ces pratiques marketing douteuses ou abusives peuvent entraîner des conséquences financières et légales pour les éditeurs.
Le problème de l'AI Washing
À un niveau macroéconomique, l'AI Washing masque la monoculture dans l'industrie. En informatique, on parle de monoculture lorsqu'un groupe d'ordinateurs utilise des logiciels identiques. En d'autres termes, de nombreux éditeurs, qui vantent chacun leur modèle d'IA « unique », pourraient n'utiliser que quelques modèles d'IA sous-jacents différents. Ils peuvent utiliser le marketing pour différencier des produits qui utilisent la même technologie. Cela pourrait conduire à une future crise financière si de nombreuses institutions financières s'appuient toutes sur les mêmes modèles sous-jacents.
« Des milliers d'entités financières cherchent à créer des applications en aval en s'appuyant sur ce qui ne sera probablement qu'une poignée de modèles de fondation en amont »
Gary GenslerPrésident, US Securities and Exchange Commission
« Des milliers d'entités financières cherchent à créer des applications en aval en s'appuyant sur ce qui ne sera probablement qu'une poignée de modèles de fondation en amont », alerte Gary Gensler dans son discours de Yale. Cela pourrait créer une dépendance excessive à l'égard de quelques modèles et de leurs fournisseurs.
La SEC a rédigé une règle en juillet 2023 qui exigerait des entreprises financières qu'elles éliminent les conflits d'intérêts dans l'utilisation des outils d'IA.
À un niveau microéconomique, le lavage de l'IA peut tromper les consommateurs, induire les investisseurs en erreur et enfreindre les lois existantes entourant la transparence des vendeurs et la divulgation des produits.
Pourquoi l'AI Washing se produit-il ?
Les fournisseurs peuvent se livrer à cette pratique marketing pour différentes raisons :
Anticipation. Certains vendeurs peuvent faire de la publicité pour l'IA dans leurs produits avant qu'elle n'y soit réellement intégrée. Ils ont l'intention d'inclure l'IA dans le produit à un moment donné, mais font de la publicité comme si le produit la contenait déjà.
Levée de fonds. L'IA – et plus particulièrement l'IA générative – est une tendance populaire depuis la sortie de ChatGPT. Les investisseurs veulent soutenir des produits et des éditeurs dont ils pensent qu'ils connaîtront un succès similaire, de sorte que la publicité pour l'IA générative – que le produit en contienne ou non – les attirera. L'AI Washing a suscité des comparaisons avec la bulle Internet, lorsque les entreprises ajoutaient les mots « point-com » à la fin de leur nom pour augmenter leur évaluation.
Mauvaise définition. L'IA est un terme vague qui englobe un grand nombre de technologies spécifiques. Si les entreprises n'ont pas de messages clairs sur la technologie spécifique employée de leur produit, elles peuvent être accusées de faire de l'AI Washing par des consommateurs ou des investisseurs qui pensent que le produit utilise l'IA d'une manière différente ou dans une moindre mesure de ce qui est annoncé. Par exemple, l'IA générative est un terme relativement nouveau qui peut être mal interprété ou volontairement déformé pour décrire un produit comme étant alimenté par l'IA. Des termes tels que « l'apprentissage automatique » ou « réseaux de neurones » existent depuis plus longtemps et s'appuient sur davantage de matériel académique et scientifique pour informer les consommateurs ou les investisseurs potentiels sur leurs capacités.
Comment éviter les effets de bord de l'AI Washing
Les consommateurs, les investisseurs et les DSI peuvent éviter les dérives potentielles provoquées par l'AI Washing lorsqu'ils sont à la recherche d'une solution logicielle. Voici une liste de bonnes pratiques à suivre :
Demander des preuves. Lorsque vous envisagez d'acheter des outils d'IA, demandez des preuves tangibles de la manière dont l'IA est utilisée dans les offres de produits. Par exemple, l'équipe d'achat peut demander quels sont les modèles ou les bibliothèques de code utilisés par le produit. Méfiez-vous des réponses vagues et notez si le produit s'appuie fortement sur un modèle d'IA omniprésent utilisé dans de nombreux produits différents.
Impliquer la DSI dans les achats. En raison de l'engouement pour l'IA, l'équipe chargée des achats et la direction métier concernée pourraient être tentées de s'intéresser de près à un produit doté d'une IA et de négliger les aspects techniques plus nuancés. Instaurez une culture de collaboration qui implique la DSI dans le processus d'achat et empêche la prise de décision induite par le matraquage marketing.
Considérer le produit de manière globale. Les acheteurs ne devraient pas s'intéresser à un produit uniquement parce qu'il intègre l'IA. Les équipes d'achat doivent examiner le produit dans son ensemble et prendre en compte tous les avantages et défis potentiels qui y sont associés, en particulier si les fonctionnalités de l'IA sont remises en question.
Restez au fait de l'actualité du secteur. À mesure que l'IA se développe et que de plus en plus d'entreprises intègrent cette technologie, les équipes d'achat peuvent apprendre ce qui fonctionne et ce qui ne fonctionne pas à partir des essais et des tribulations d'autres entreprises.
Pour approfondir sur Intelligence Artificielle et Data Science
