Collibra applique ses recettes de gouvernance des données à l’IA

L’IA générative bouleverse la mise en pratique de la gouvernance de l’IA

L’IA générative change la donne. Ce ne sont plus seulement les projets des data scientists qui doivent être gouvernés et auditables, ce sont les usages des métiers. De fait, L’IA générative, bien qu’aux prémices de son déploiement dans les entreprises, entraînent la multiplication de solutions permettant aux métiers de manipuler des données et du code (sans en écrire). Les règles de gestion des droits et confidentialité des données en cours d’adaptation aux produits en libre-service doivent aussi s’appliquer.

D’autant que les réglementations liées à l’IA sont vouées à se multiplier dans les sillons de l’EU AI Act, qui devrait entrer en vigueur d’ici à deux ans.

C’est en ce sens que Collibra lance AI Governance, selon Felix Van de Maele, cofondateur et PDG de l’entreprise. Actuellement accessible en préversion, AI Governance entrera en disponibilité générale en mai prochain. La solution est construite au-dessus de la Data Intelligence Platform et applique certaines des capacités de data gouvernance des outils Collibra à l’IA.

Il n’est pas seulement question de réglementations, selon Felix Van de Maele. Les entreprises qui développent leurs propres applications à partir de modèles sur étagère ou en entraînant les leurs s’exposent à des risques de divulgation de données sensibles ou de secrets d’affaires.

« Tout le monde reconnaît qu’il faut faire de l’IA, qu’il s’agit d’un élément fondamental pour leur entreprise », avance M. Van de Maele. « Mais ils se rendent également compte qu’ils doivent le faire de la bonne manière. Les enjeux sont considérables ».

En fait, le besoin de gouvernance de l’IA pourrait être plus important que le besoin de gouvernance des données, poursuit-il. Avec l’analytique, il y a toujours un humain pour valider les résultats avant que les gens ne prennent des décisions et n’agissent. Mais avec l’IA, les modèles font des dizaines de prédictions en quelques millisecondes sans explication et sont parfois entraînés à prendre des mesures de leur propre chef.

« Avec l’IA, les problèmes sont les mêmes [que pour l’analytique], mais les conséquences sont potentiellement bien pires », avance-t-il.

AI Governance, une solution pour cadrer les projets de leur idéation jusqu’à leur fin de vie

Avec AI Governance, Collibra pose une liste de fonctionnalités en vue d’aider les clients à maîtriser leurs projets d’IA. La solution devra permettre :

• De définir et documenter les projets d’IA à partir d’une interface intuitive mise en place en vue de faciliter le travail des utilisateurs métiers et des experts en données avec les modèles et les applications d’IA.
• D’utiliser le catalogue de données Collibra pour relier les applications d’IA aux données qui les alimentent de sorte que la qualité des données puisse être vérifiée de manière cohérente avec Collibra Data Quality & Observability.
• De protéger les données sensibles telles que les informations personnelles identifiables avec des politiques d’accès aux données établies grâce aux intégrations avec Collibra Data Privacy et Collibra Protect.
• D’assurer la conformité réglementaire et légale, y compris en appliquant des cotes de risque à différentes catégories de projets en vue de prioriser l’examen des projets d’IA controversés.
• De contextualiser les données qui alimentent l’IA en y associant des informations telles que les objectifs, la valeur commerciale et les rôles des membres de l’équipe pour encourager la transparence et la collaboration.
• De donner de la visibilité sur le cycle de vie d’un modèle d’IA – son historique – afin que les utilisateurs puissent savoir si les données utilisées pour former le modèle sont de haute qualité et si elles sont fiables.

Techniquement, il s’agit de la mise en logiciel d’un cadre pour préparer le déploiement de projets d’IA et d’IA générative. L’on pourrait résumer AI Governance a une plateforme permettant d’appliquer des règles de gouvernance de l’idéation d’un projet d’IA jusqu’à sa fin de vie.

« Je vois de nombreuses fonctionnalités auxquelles je m’attendais », commente l’analyste Doug Henschen. « Les fonctions d’évaluation des risques et de triage semblent intéressantes, et je suis particulièrement impressionné par le fait que Collibra offre un point de vue commercial/métier sur la gouvernance de l’IA sous la forme d’une documentation des cas d’usage, des objectifs, de la valeur commerciale [et] des rôles des membres de l’équipe ».

Si Collibra semble surfer sur la vague de l’IA générative, Felix Van de Maele assure que la liste des fonctions présentes dans AI Governance émerge de discussions avec les clients.

Bon nombre de ses conversations avec les utilisateurs au cours de l’année écoulée ont porté sur l’IA. Les entreprises reconnaissent qu’elles doivent construire des modèles et des applications d’IA pour rester compétitives, mais le faire sans exposer des données sensibles ou violer des réglementations.

Encore trop peu de fonctions spécifiques à l’IA, déplore Constellation Research

Une fois qu’AI Governance sera disponible, Collibra continuera d’ajouter des fonctionnalités au fur et à mesure que les réglementations changent et que les infrastructures d’IA évoluent, selon M. Van de Maele.

À cette fin, l’éditeur prévoit d’ajouter davantage d’intégrations avec les outils qui composent l’infrastructure d’IA des fournisseurs.

« Le paysage de l’infrastructure d’IA évolue rapidement et nous devons donc suivre les changements et les tendances », anticipe Felix Van de Maele.

En outre, Collibra a l’intention d’ajouter et d’améliorer les fonctionnalités qui permettent à différents rôles au sein des entreprises de travailler avec l’IA. L’éditeur prévoit également d’approfondir les capacités de surveillance et d’observabilité d’AI Governance.

Doug Henschen, quant à lui, estime que si Collibra met fortement l’accent sur la gouvernance des données utilisées pour entraîner ou exploiter les modèles, il n’y a pas encore beaucoup de fonctionnalités dans AI Governance qui traitent spécifiquement de la gouvernance des modèles proprement dits.

« Au fur et à mesure que les modèles se multiplient, leur complexité croissante rendra nécessaires l'ajout de capacités de gouvernance supplémentaires qui iront au-delà des données [jusqu’aux modèles eux-mêmes] », avance Doug Henschen. « J’espère que leurs plans prévoient davantage de fonctionnalités de ce type ».