kras99 - stock.adobe.com

Cisco met en avant la lutte contre le Shadow AI

Cisco s’appuie sur la puissance de son statut pour intégrer la sécurité de l’IA dans les outils existants de gestion des accès cloud, y compris les tests de validation algorithmique sur les modèles d’IA.

La semaine dernière, Cisco a lancé, en avant-première, un produit visant à intégrer la cybersécurité de l’IA dans les processus SecOps des entreprises et à empêcher l’utilisation malveillante de l’IA générative sur les réseaux d’entreprise.

Cisco AI Defense, dont le lancement commercial est prévu pour mars, est censé combler les lacunes en matière de cybersécurité de l’IA, à mesure que les entreprises mettent en production des applications d’IA générative. Le produit inspectera le trafic web pour détecter les applications et services d’IA utilisés au sein d’un réseau d’entreprise et déterminer si cette utilisation est malveillante. AI Defense détectera et bloquera les invites et les sorties malveillantes des grands modèles de langage (LLM), des caractéristiques que l’outil partage avec d’autres produits de passerelle d’IA récemment annoncés.

Cisco entend se différencier par la validation automatique et algorithmique de la sécurité des LLM au fur et à mesure qu’ils sont affinés au sein d’une entreprise et par la génération automatique de garde-fous de sécurité appropriés.

« Le problème que nous rencontrons actuellement dans ce secteur est que, contrairement aux applications classiques, il n’existe pas de base de données centrale des vulnérabilités pour l’IA ».
Jeetu PatelV-P exécutif et directeur produits, Cisco

« Vous devez valider si un modèle, avant de commencer à mettre cette application en production, fonctionne effectivement de la manière dont vous l’attendiez, et ensuite mettre les bons garde-fous autour de lui », justifie ainsi Jeetu Patel, vice-président exécutif et directeur des produits chez Cisco, lors d’une présentation en direct au Cisco AI Summit à New York la semaine dernière. Selon lui, « le problème que nous rencontrons actuellement dans ce secteur est que, contrairement aux applications classiques, il n’existe pas de base de données centrale des vulnérabilités pour l’IA ».

Cisco AI Defense s’attaquera à ce problème grâce à la propriété intellectuelle de Robust Intelligence, une société soutenue par Cisco Investments et acquise par sa division sécurité en septembre dernier. La jeune pousse a publié un document de recherche sur une technique d’évaluation algorithmique de la sécurité des LLM, que Cisco a mise en œuvre pour créer l’une des principales caractéristiques de son nouveau produit.

« Robust Intelligence a créé un mécanisme appelé “arbre d’attaques avec élagage” », a ainsi expliqué Jeetu Patel. « Ils ont pu aller de l’avant et systématiquement…, trouver [comment] attaquer [un] modèle jusqu’à ce qu’il se brise. […] Lorsqu’il est cassé, vous savez ce qui ne fonctionne pas, et vous fournissez alors les garde-fous nécessaires ».

Cisco AI Defense proposera automatiquement de tels garde-fous et les mettra continuellement à jour au fur et à mesure que les modèles sont affinés et mis à jour. Dans le cas contraire, tout réglage fin effectué par une organisation sur un LLM pourrait enfreindre les protections de sécurité intégrées, mais le coût d’une nouvelle formation du modèle serait prohibitif.

« Si vous pouvez corriger le modèle à l’aide de garde-fous […] au niveau du réseau, vous bénéficiez toujours des avantages de la sûreté et de la sécurité de l’IA d’une manière beaucoup plus efficace », estime ainsi DJ Sampath, vice-président des logiciels et des plateformes d’IA au sein de la division sécurité de Cisco.

L’approche algorithmique est également plus rapide et plus efficace qu’une approche manuelle de la validation du modèle, relève Jeetu Patel, car il n’y a pas de limite supérieure aux questions potentielles qu’une personne devrait introduire dans un LLM pour trouver ses points de rupture. « En moyenne, il faut sept à dix semaines à la plupart des entreprises pour valider un modèle. Nous pouvons le faire en 30 secondes ».

Cisco fait jouer ses muscles

Cisco AI Defense combine la propriété intellectuelle de Robust Intelligence avec des LLM enrichis par Scale AI, partenaire de Cisco, pour piloter ses fonctions d’automatisation de la cybersécurité par l’IA, ainsi que des données de renseignement sur les menaces provenant de Talos et Splunk. Les utilisateurs peuvent appliquer les garde-fous via la plateforme cloud de Cisco ; les tableaux de bord pour AI Defense sont intégrés à l’outil SaaS Cisco Secure Access.

« Il n’est pas nécessaire d’utiliser une autre solution isolée autonome, car elle est complètement intégrée au tissu du réseau, avec les mêmes outils de gestion », indique Jeetu Patel.

Selon les analystes, il s’agit potentiellement d’un argument de vente fort pour AI Defense, en particulier parce que Cisco a une visibilité sur les réseaux d’entreprise où les LLM sont utilisés.

« Il n’est pas judicieux de s’en remettre à un fournisseur de LLM pour établir des garde-fous, car il n’a pas conscience du contexte de l’entreprise. »
Chirag MehtaAnalyste, Constellation Research

« Il n’est pas judicieux de s’en remettre à un fournisseur de LLM pour établir des garde-fous, car il n’a pas conscience du contexte de l’entreprise », estime ainsi Chirag Mehta, analyste chez Constellation Research. « Les fournisseurs de LLM ne comprennent pas non plus les politiques de sécurité des entreprises ».

« Les fournisseurs de LLM ne comprennent pas non plus les politiques de sécurité des entreprises. »
Chirag MehtaAnalyste, Constellation Research

L’attention portée par Cisco aux mises à jour constantes des garde-fous dans le domaine de la défense de l’IA témoigne également d’une bonne compréhension des besoins des entreprises en matière d’informatique, à mesure que les applications d’IA évoluent, estime pour sa part Krista Case, analyste chez The Futurum Group. « Cela me semble apporter une valeur significative. Les développeurs ont besoin de flexibilité et d’agilité, mais en même temps, l’équipe de sécurité a besoin non seulement de visibilité, mais aussi de contrôle, car les applications et les modèles d’IA évoluent au fil du temps ».

Un utilisateur de Shadow IA vraiment déterminé pourrait toujours accéder à des applications et modèles d’IA non autorisés sur un appareil personnel sans l’agent Secure Access de Cisco. Dans ce scénario, cependant, AI Defense pourrait toutefois empêcher un tel utilisateur d’accéder à des données hautement sensibles au sein des réseaux d’entreprise, relève Krista Case.

Certes, Cisco AI Defense cible les praticiens SecOps plutôt que les développeurs, mais Krista Case n’en est pas moins curieuse de voir comment l’outil pourrait être utilisé par les clients de Cisco pour alimenter la collaboration DevSecOps à mesure que la cybersécurité de l’IA évolue.

Bientôt disponible : liens avec Hypershield, support sur site

Cisco AI Defense sera uniquement SaaS au lancement, mais il devrait ultérieurement supporter les traitements en local, ainsi que l’informatique de périphérie (edge computing) et les appareils IoT. L’outil s’intégrera également à la structure de sécurité réseau Hypershield de Cisco, ce qui ajoutera un support sans agent basé sur l’eBPF pour l’application des garde-fous sur le trafic est-ouest.

Selon DJ Sampath, c’est le trafic nord-sud qui est actuellement le plus utilisé pour le LLM, mais le trafic est-ouest prendra de l’importance à mesure que l’IA agentique se généralisera. « C’est là que Hypershield devient incroyablement pertinent », estime-t-il. Et cela parce qu’il « peut tirer parti de l’eBPF pour appliquer des garde-fous… au niveau de la couche 7, [où] il est vraiment nécessaire d’avoir une terminaison SSL et de s’introduire dans le paquet. […] Cisco [fait] de la plomberie de réseau depuis que la société existe, et nous sommes donc très bons dans ce genre de fonctions ».

Pour approfondir sur IA appliquée à la cybersécurité