Agents IA fantômes : ce que les RSSI doivent savoir

Avantages et risques des agents IA fantômes

Il existe un risque inhérent à toute entité non administrée - et donc sous-sécurisée - qui a accès aux ressources de l'entreprise, tel que l'exfiltration de données, les problèmes de conformité et l'empoisonnement de modèle. L'introduction de l'IA fantôme dans les entreprises soulève des signaux d'alarme sérieux pour les équipes de cybersécurité.

Il est essentiel pour les RSSI de reconnaître les avantages de l'IA fantôme et de comprendre pourquoi les employés pourraient contourner les procédures standard pour accéder à la technologie plus rapidement. L'IA agentique promet une multitude d'avantages, y compris un haut degré d'autonomie, l'automatisation des tâches répétitives et une adaptation rapide aux changements. Cette technologie peut également gérer des tâches dynamiques spécifiques - telles que la détection de menaces et les changements dans la chaîne logistique - plus efficacement que les méthodes nécessitant plus d'intervention manuelle.

Les utilisateurs finaux sont attirés par l'IA agentique pour supporter une gamme d'actions, notamment :

• Coller le code source de l'entreprise dans des outils d'IA publics pour écrire des fonctions.
• Appliquer l'analyse de données aux données clients, aux feuilles de calcul financières ou à d'autres documents pour créer des résumés ou des graphiques.
• Rédiger des courriels clients, générer des stratégies marketing et créer des communiqués de presse.
• Traduire des documents juridiques ou autres documents d'entreprise.

Les RSSI doivent également reconnaître en quoi l'IA fantôme diffère du Shadow IT traditionnel. Alors que l'informatique fantôme conventionnelle et non agentique n'est transmise, stockée ou modifiée que lorsque l'utilisateur interagit avec elle, l'IA agentique fantôme possède un niveau d'autonomie qui ne nécessite pas d'intervention humaine.

L'IA agentique fantôme dispose également de capacités de traitement avancées, lui permettant de lire, traduire, modifier et évaluer le texte, les images et le code. L'informatique fantôme traditionnelle ne possède aucune compréhension du contenu qu'elle stocke et déplace. L'IA conventionnelle manque également de capacités de prise de décision, tandis que l'IA agentique peut tirer des conclusions sans la direction explicite d'un utilisateur final.

Les RSSI doivent comprendre les risques inhérents au déploiement d'agents IA fantômes sans mesures de sécurité adéquates. Les agents IA fantômes possèdent un niveau d'autonomie qui présente de sérieux risques de fuites de données et de perte de confidentialité. Les employés peuvent, sciemment ou non, exposer la propriété intellectuelle, le contenu ou le code source de l'entreprise. L'IA fantôme pourrait violer des exigences réglementaires, telles que le RGPD et l'HIPAA, et les professionnels de la sécurité incapables de suivre ces données pourraient ne pas être en mesure de satisfaire aux exigences d'audit.

Certains éléments associés à l'utilisation d'agents IA fantômes, tels que les extensions de navigateur, sont insuffisants en matière de contrôles de sécurité. Les adversaires peuvent également exploiter des vulnérabilités - telles que des points d'intégration fragiles - pour accéder aux ressources réseau. Certains outils utilisés dans l'IA fantôme peuvent halluciner ou produire des résultats inexacts qui semblent factuels, ce qui compromet l'intégrité des décisions.

Tout cela met les entreprises en grand péril de perte de contrôle ou de désinformation entraînant des coûts financiers directs par le biais d'une productivité entravée, de frais juridiques et de pertes concurrentielles, ainsi qu'un préjudice réputationnel à long terme.

Défendre contre les vulnérabilités de l'IA fantôme

La première étape pour jeter les bases d'un environnement plus productif et sécurisé est de comprendre les avantages de l'IA agentique et pourquoi les employés se tournent vers le shadow IT pour y accéder. Cela commence par les connaissances acquises grâce à la découverte et à un inventaire précis. Les équipes informatiques doivent suivre le trafic et rechercher des outils d'IA non sanctionnés. Elles doivent déterminer quels départements déploient l'IA et quelles données confidentielles ou de grande valeur l'IA pourrait traiter, stocker et transmettre.

Les professionnels de la sécurité doivent éduquer les employés sur les risques potentiels associés aux agents IA fantômes. Des programmes d'amnistie peuvent permettre aux utilisateurs finaux de signaler l'utilisation de l'IA fantôme sans crainte de répercussions.

Les RSSI doivent envisager des moyens d'améliorer le processus d'approbation pour créer des voies d'accès plus rapides et proposer des alternatives d'IA approuvées.

Toutes les organisations doivent disposer de mesures de protection techniques qui s'étendent à l'IA fantôme, telles que des outils de prévention des pertes de données qui empêchent les données de grande valeur d'interagir avec des modèles d'IA publics. Elles doivent également appliquer un contrôle d'accès par le biais de politiques et de procédures qui restreignent les connexions potentiellement dangereuses. Les équipes de sécurité doivent surveiller l'utilisation pour toute activité inhabituelle.

Comme pour tous les contrôles de sécurité efficaces, une défense solide commence par la communication, ce qui englobe une formation solide du personnel et une éducation des utilisateurs finaux. Les RSSI doivent fournir des directives claires sur l'utilisation de l'IA et de l'informatique fantôme, tant aux équipes informatiques qu'aux utilisateurs finaux. Toutes les lignes d'activité - du marketing et des achats à l'informatique - doivent travailler ensemble pour participer à une utilisation responsable et validée de l'IA ou risquer d'exposer l'entreprise aux vulnérabilités de l'IA fantôme.

Amy Larsen DeCarlo a couvert le secteur informatique depuis plus de 30 ans, en tant que journaliste, rédactrice et analyste. En tant qu'analyste principale chez GlobalData, elle couvre la sécurité gérée et les services cloud.