Montri - stock.adobe.com

L'avènement de l'IA agentique dans le cycle d'attaque

Un cap a été franchi dans l'amplification des cyber-menaces par l'IA : pipelines autonomes, vol d'actifs d'IA et « LLMJacking » réduisent drastiquement la fenêtre de défense.

Les acteurs malveillants ont fait évoluer leurs tactiques, passant d'interactions basées sur de simples prompts à des workflows d'IA agentique et d'automatisation.

Le Groupe de Renseignement sur les Menaces de Google (GTIG) a observé une réduction spectaculaire de la latence humaine dans ces opérations, ce qui comprime la fenêtre de réponse des défenseurs. Les groupes d'acteurs, qu'ils soient étatiques ou crapuleux, déploient désormais des frameworks multi-agents capables de gérer de manière autonome des pipelines de balayage, de résoudre des erreurs opérationnelles et d'exécuter des campagnes de récolte de mots de passe à grande échelle.

Une campagne de récolte de mots de passe massive, par exemple, a été planifiée, construite et exécutée par un agent en moins de six heures. Ces agents autonomes permettent à l'adversaire d'automatiser l'ensemble du pipeline post-exploitation, allant de la recherche de vulnérabilités à l'exécution d'exploits ciblés, avec une intervention humaine minimale. Cette transition marque un passage des cleptogiciels (ou infostealers) passifs et axés sur les terminaux à une récolte offensive et agentique.

L'adoption de l'IA ne se limite pas à l'automatisation des tâches. Les acteurs malveillants l'intègrent à chaque phase de la chaine cinétique d'attaque : de la reconnaissance de la cible à la création d'appâts de hameçonnage localisés, en passant par le maquillage de logiciels malveillants et le dépannage post-exploitation. Les groupes d'espionnage étatiques, notamment ceux liés à la Chine, utilisent l'IA pour profiler des cibles de haute valeur et pour traduire des appâts d'ingénierie sociale en fonction des langues locales.

Les actifs d'IA et la chaîne logistique comme cibles de haute valeur

Les actifs d'IA sont devenus des cibles de haute valeur pour l'espionnage, l'extorsion et le vol de ressources. Les attaquants ciblent les modèles d'IA propriétaires, le code source, les prompts et les identifiants d'API. Ce ciblage ne se limite pas aux laboratoires d'IA de pointe ; les organisations dans les secteurs de la santé, du gouvernement, des médias et du commerce sont également touchées.

L'intégration des outils de codage assistés par IA dans les cycles de développement logiciel a accéléré les processus, mais a simultanément accru les risques opérationnels. Les acteurs malveillants exploitent cette intersection entre le codage assisté par IA et les logiciels open source. Par exemple, l'acteur crapuleux UNC6780 a mené des compromissions à grande échelle de la chaîne logistique du logiciel, en visant des écosystèmes tels que PyPI, npm et Docker Hub.

Ces compromissions ne se limitent pas aux dépendances logicielles. UNC6780 collecte des identifiants pour les outils d'IA en plus des autres informations d'identification propriétaires. Dans un cas documenté, l'acteur a créé un workflow GitHub Actions malveillant pour le dépôt d'IA propriétaire de l'entreprise, et en a exfiltré une copie. Le risque est amplifié par le fait que les opérations d'extorsion par vol de données incluent désormais l'exfiltration de données d'IA propriétaires, incluant des modèles, des compétences et des scripts.

L'exploitation de l'infrastructure cloud pour tâches intensives

Pour opérationnaliser les outils d'IA générative, les acteurs malveillants doivent accéder et maintenir des comptes d'IA, ce qui représente un coût. Ce besoin a conduit à une augmentation du ciblage, de l'exfiltration et de la vente de comptes d'IA, mais aussi à une croissance des intrusions dans les environnements Cloud d'entreprise. Ce phénomène est désigné sous le terme de « LLMJacking ».

Les attaquants exploitent l'infrastructure cloud des victimes pour héberger et faire exécuter des traitements à hautes performances non autorisées. Cette tendance illustre une évolution critique dans la méthodologie des acteurs malveillants : ils passent d'une dépendance aux cleptogiciels à l'exploitation autonome des ressources.

En utilisant l'infrastructure cloud de la victime, l'adversaire peut acheminer le trafic réseau associé à son attaque à travers des adresses IP légitimes, ce qui complique la détection. L'accès aux ressources de calcul est devenu un levier stratégique, permettant aux acteurs de menaces d'exécuter des campagnes massives et gourmandes en ressources avec une vélocité et une échelle considérables.

Pour approfondir sur IA appliquée à la cybersécurité