athitat - stock.adobe.com

Actualites

IA générative : des travaux français s’attaquent à l’explicabilité

Dans l’industrie, l’IA générative et l’IA hybride posent des défis que les cadres méthodologiques ne couvrent pas pleinement. Un consortium français de recherche va s’y atteler pour rendre ces IA auditables et explicables. Les résultats alimenteront un référentiel européen chapeauté par la Trustwhorthy AI Association.

Philippe Ducellier
par
Publié le: 03 juil. 2026

Quand on est une industrie critique, il n’est pas possible de confier des tâches critiques à des modèles qui ne sont ni explicables, ni auditables. Or l’IA agentique à venir repose en partie sur du Deep Learning et des LLM qui restent des boîtes noires.

Partant de ce constat, IRT System X vient de créer un nouveau un projet de recherche. Il durera 48 mois et regroupera un consortium de six industriels (Naval Group, Octopize, Safenai, Safran, Sopra Steria et Thales) et trois partenaires académiques (l’ONERA, l’Université Paris-Saclay et donc IRT SystemX).

Le projet CSIA

Le projet, baptisé CSIA (pour « Confiance dans les Systèmes d’IA »), va se pencher particulièrement sur l’IA générative et l’IA dite « hybride ».

L’IA hybride combine des IA que l’on pourrait qualifier d’opaques, comme l’apprentissage automatique ou les réseaux de neurones, et les couple avec des IA parfaitement compréhensibles comme du ML, des modèles mathématiques qui décrivent le comportement physique d’un système, ou des moteurs de règles.

Les partenaires travailleront à développer des méthodes et des outils (open source) qui viendront compléter ce qui existe déjà.

Des outils open source pour une dizaine de cas d’usage

Ils se pencheront particulièrement sur la définition du domaine d’emploi des systèmes (OD, ODD), la formulation technique de l’usage prévu (Intended Purpose au sens de l’AI Act), les outils de robustesse, de gestion de l’incertitude et de monitoring (RUM), et les outils d’anonymisation des données, liste l’IRT System X.

Le projet CSIA testera ses outils sur une dizaine de cas d’usage industriels. IRT System X évoque un chatbot (motorisé par LLM) pour interroger des historiques de données de vols d’avions, une aide à la gestion du trafic aérien en temps réel et un système de génération de trajectoires maritimes par Deep Reinforcement Learning.

L’IA Act, accélérateur et opportunité

Le projet, ouvert à de nouveaux membres, intervient alors que l’AI Act imposera ses exigences sur les systèmes « à haut risque » en août 2027.

« La réglementation européenne constitue un levier structurant pour développer des technologies fiables et compétitives », insiste Sana Tmar, cheffe du projet CSIA, IRT SystemX, qui ne voit pas cette réglementation comme un frein, mais comme un différenciant majeur face aux IA d’autres zones géographiques.

Des travaux partagés avec la Trustworthy AI Association

Les livrables de CSIA seront reversés dans la « trousse à outils » et de méthodologies de la Trustworthy AI Association.

Pour mémoire, cette association européenne est la succession naturelle du programme de recherche Confiance.AI, qui regroupait déjà des académiques (dont IRT System X) et des industriels (Air Liquide, EDF, MBDA, etc.) autour de la question de l’IA de Confiance – plus exactement, savoir comment, concrètement, rendre une IA sûre et contrôlable dans des contextes critiques.

Pour approfondir sur IA Responsable, IA durable, explicabilité, cadre réglementaire