AIOps : la bonne pratique des modèles d’administration sous IA

Les modèles d’administration sous IA dans une DSI

Les modèles d’administration sous IA varient en fonction du niveau d’implication ou de supervision humaine, allant de rôles consultatifs à une autonomie totale dans les déploiements en boucle fermée. Choisissez un modèle en fonction de cas d’utilisation spécifiques.

Human-in-the-loop (HITL). Le modèle HITL est un modèle dans lequel les humains approuvent activement les décisions de l’IA ou interviennent dans celles-ci. Il est particulièrement adapté aux actions à haut risque, soumises à des exigences de conformité strictes ou irréversibles.

Exemple : l’IA recommande d’arrêter un rack de centre de données pour optimiser la consommation d’énergie, et les ingénieurs doivent approuver cet arrêt avant qu’il ne soit exécuté.

Human-on-the-loop (HOTL). Le modèle HOTL est un modèle dans lequel l’IA exécute des actions dans le respect de certaines contraintes, tandis que les humains supervisent et interviennent si nécessaire. Il est particulièrement adapté aux opérations réversibles et régies par des règles.

Exemple : l’IA redistribue automatiquement les charges de travail en cas de congestion, tandis que les opérateurs surveillent les tableaux de bord et peuvent passer outre les décisions.

Human-out-of-the-loop (HOOTL). Le modèle HOOTL est un modèle dans lequel l’exécution, entièrement autonome et pilotée par l’IA, s’effectue avec une intervention humaine minimale. Cela nécessite une télémétrie performante, des garde-fous et une capacité de retour en arrière.

Exemple : l’IA ajuste dynamiquement les systèmes de refroidissement à l’aide de données de capteurs en temps réel, sans intervention humaine.

Human-in-command. Le modèle « Human-in-command » est un modèle dans lequel les humains définissent les contraintes, les objectifs et les politiques. L’IA opère dans le cadre de ces limites.

Exemple : le DSI fixe des objectifs de développement durable, et l’IA optimise la répartition de la charge de travail afin de minimiser l’empreinte carbone.

IA consultative / Mode copilote. Le modèle « IA consultative / Mode copilote » est un modèle dans lequel l’IA fournit des recommandations tandis que les humains conservent l’entière autorité décisionnelle.

Exemple : l’IA propose des stratégies d’optimisation des niveaux de stockage pour réduire les coûts, mais la direction informatique approuve le plan de migration final.

Automatisation en boucle fermée / autonomie totale. L’automatisation en boucle fermée / autonomie totale est un modèle dans lequel des cycles continus de « détection-décision-action » s’effectuent avec des boucles de rétroaction.

Exemple : l’IA détecte les pics de latence, réaffecte les ressources de calcul, valide les améliorations et maintient l’optimisation des performances de manière autonome.

Observabilité et explicabilité : les clés d’une infrastructure de confiance

Le biais d’automatisation est l’un des risques les plus sous-estimés dans les opérations pilotées par l’IA. Ce biais correspond à la tendance des équipes à accepter les recommandations de l’IA sans examen ni analyse suffisants. Dans des environnements soumis à une forte pression, comme la gestion des incidents, ce biais peut retarder la résolution des problèmes ou aggraver les défaillances lorsque les modèles se trompent.

Les dirigeants doivent mettre en place un cadre clair qui exige une validation humaine pour les actions à fort impact et qui instaure des mécanismes de contrôle structurés, tels que des revues secondaires ou des seuils d’approbation.

Les opérations autonomes reposent donc en grande partie sur une visibilité approfondie du processus décisionnel de l'IA. Cette visibilité s'appuie sur l'observabilité et garantit l'explicabilité. L'observabilité permet de surveiller les systèmes en temps réel, tandis que l'explicabilité garantit que les décisions peuvent être comprises et contrôlées.

Il s’agit notamment de définir les limites de l'autonomie de l'IA, en précisant quelles actions l'IA peut effectuer de manière autonome et lesquelles nécessitent l'accord d'un humain, puis de surveiller la dérive des LLM et même mettre en place des alertes qui se déclenchent en cas de baisse des performances ou d'écart par rapport aux tendances habituelles.

Les capacités spécifiques à mettre en place pour assurer la visibilité comprennent :

• Une capture complète des données de télémétrie : entrées, sorties, état du système, etc.
• Un suivi des versions du LLM et journalisation des décisions.
• Une évaluation du niveau de confiance pour les actions de l’IA.
• Une détection des dérives et des anomalies.
• Un Audit des actions en temps réel et d’après leur historique.

Par exemple, un système fonctionnant selon un modèle HOOTL pour optimiser l’utilisation des serveurs pourrait enregistrer les valeurs suivantes :

• Les données d’entrée relatives au processeur et à la mémoire.
• Le niveau de confiance du modèle.
• L’action entreprise : augmentation ou réduction de la capacité.
• Les conditions de déclenchement d’une restauration.

Sans explicabilité, ces systèmes autonomes ne peuvent pas être déployés en toute sécurité au-delà des déploiements à faible risque, ce qui empêche l’automatisation pilotée par l’IA d’atteindre son plein potentiel et son retour sur investissement.

Ce que cela change dans l’organisation des équipes

Les opérations pilotées par l’IA redéfinissent en profondeur les rôles et les responsabilités informatiques. Les entreprises doivent se préparer à cette évolution en adaptant leurs équipes techniques aux nouvelles exigences. Parmi les évolutions courantes des rôles, les administrateurs traditionnels deviennent des superviseurs IA et les ingénieurs en fiabilité deviennent des ingénieurs en politiques de fiabilité.

De nouveaux rôles apparaîtront souvent, notamment celui d’ingénieur des opérations IA, celui de responsable de la sécurité de l’autonomie et celui d’analyste de la gouvernance des modèles.

Ces rôles reflètent l’évolution des tâches quotidiennes et des compétences requises. Les administrateurs passent du dépannage et de l’application de correctifs à la définition et à la redéfinition des contraintes et des politiques de maintenance. Les équipes chargées des opérations manuelles évoluent vers la supervision de systèmes autonomes. La réponse réactive aux incidents cède la place à une conception proactive des systèmes et à la prévention.

Dans un environnement automatisé, les ingénieurs ajusteront les seuils et les politiques plutôt que de redimensionner manuellement les composants de l’infrastructure lorsque des incidents se produisent.

Quels modèles d’administration sous IA pour quels cas d’usage ?

Les modèles d’administration sous IA trouvent des applications concrètes dans les domaines de la reprise d’activité après incident, de l’informatique en succursale (Edge), de l’optimisation et du développement durable, ce qui souligne leur rôle essentiel dans l’amélioration de l’efficacité et de la résilience. Voici quelques exemples d’utilisation des modèles opérationnels basés sur l’IA.

Reprise après sinistre. Ici, le modèle HITL s’applique pour que l’humain approuve le basculement, puis le modèle HOOTL s’applique pour un basculement régional automatisé.

Informatique en succursale (Edge). Ici, les modèles hybrides HOTL/HOOTL gèrent les décisions sensibles à la latence.

Optimisation. Ici, le modèle HOTL s’applique pour que l’IA recommande des réaffectations de charges de travail, tandis que le modèle HOOTL sert à optimiser en continu les performances grâce à l’automatisation.

Développement durable. Il faut opter pour le modèle Human-in-Command, afin de définir des objectifs de réduction des émissions de carbone. Et il faut opter pour le modèle HOOTL afin d’exécuter en temps réel des réaffectations automatisées de charges de travail dans le but d’améliorer l’efficacité énergétique.

Mesurer le retour sur investissement au-delà des économies réalisées

Des indicateurs et des KPI spécifiques permettent de démontrer la valeur et le retour sur investissement des opérations de centre de données pilotées par l’IA. Utilisez les indicateurs suivants pour mettre en avant cette valeur.

Efficacité opérationnelle :

• Temps moyen de détection (MTTD).
• Temps moyen de résolution (MTTR).
• Volume d’incidents et taux de récidive.

Résilience et performances du système :

• Temps de fonctionnement/disponibilité (respect du SLA).
• Taux d’échec des changements.
• Temps de reprise après des incidents critiques.

Risques et conformité :

• Nombre d’incidents de sécurité détectés par rapport à ceux non détectés.
• Constats d’audit et violations de conformité.
• Délai de correction des vulnérabilités.

Impact sur le personnel :

• Pourcentage de tâches automatisées par rapport aux tâches manuelles.
• Temps réaffecté à des initiatives stratégiques.
• Engagement des employés et indicateurs d’épuisement professionnel.

Confiance et adoption :

• Recommandations de l’IA : taux d’acceptation par rapport aux taux de rejet.
• Niveaux de confiance des opérateurs dans les décisions assistées par l’IA.

Choisir le bon modèle opérationnel

Les modèles d’administration sous IA constituent un idéal d’autonomie, et non des catégories figées. La réussite dépend de l’alignement des structures de gouvernance, du niveau de maturité en matière d’observabilité et de l’état de préparation de l’entreprise. Parmi les autres facteurs clés à prendre en compte figurent la tolérance au risque de l’entreprise, les exigences de conformité et la criticité des systèmes.

La plupart des entreprises commencent par le modèle HITL pour les systèmes critiques, puis passent au modèle HOTL une fois que la stabilité et l’explicabilité ont été démontrées. Le modèle HOOTL doit être réservé aux environnements matures et suffisamment dotés d’instruments de mesure. L’objectif n’est pas l’automatisation totale, mais des opérations d’infrastructure sûres, responsables et progressivement autonomes, alignées sur les risques métier.

Cet article est l’adaptation d’un conseil initialement paru en anglais sur Techtarget.com.