La cybersécurité à l’heure de l’IA générative
Introduction
L’incursion de l’intelligence artificielle dans la cybersécurité n’est pas une nouveauté. Ce qui l’est, c’est celle de l’IA générative. Cette dernière a rapidement été cuisinée à de nombreuses sauces dans de multiples solutions de cybersécurité diverses et variées, avec des impacts plus ou moins significatifs.
Et cela selon les usages tout autant que la maturité des utilisateurs. Car l’IA générative, pour puissante qu’elle soit, n’a rien d’une solution magique capable de répondre à toutes les problématiques sans un minimum d’apprentissage et d’expérimentation.
Autrement dit : encore faut-il savoir comment en tirer pleinement parti. Et cela ne serait-ce que pour contrôler ses productions, afin de pouvoir détecter d’éventuelles hallucinations ou omissions. Lesquelles pourraient s’avérer critiques dans un contexte d’application à la cybersécurité, qu’il s’agisse d’analyser un incident ou de produire des recommandations de mesures correctives.
Bien sûr, l’intelligence artificielle ne manque pas d’apporter avec elle son lot de menaces, du plus ou moins innocent Shadow AI jusqu’aux applications franchement malveillantes. Au-delà des fantasmes, des recherches ont déjà fait clairement la démonstration des possibilités de passage outre les garde-fous mis en place pour les fournisseurs d’IA générative. Jusqu’à réussir à en obtenir le développement de logiciels malveillants totalement fonctionnels.
1Menaces-
La sécurisation de l’IA générative face à ses limites
GenAI : comment un chercheur de Cato a poussé un LLM à lui écrire un infostealer
Un chercheur de Cato Networks a embarqué des IA génératives dans une fiction, dans laquelle elles devaient aider le héros à déjouer les plans du méchant en dérobant ses identifiants confiés à son navigateur Web. Lire la suite
GenAI : comment des acteurs avancés persistants la détournent
Des acteurs malveillants dits avancés et persistants, soutenus par des États-Nation, détournent l’IA générative. Les équipes de Google l’ont en particulier identifié pour le LLM maison, Gemini. Lire la suite
OpenAI détaille comment les acteurs malveillants abusent de ChatGPT
Alors que les acteurs malveillants utilisent des outils d'IA générative comme ChatGPT pour mener des opérations d'influence électorale et développer des malwares, OpenAI affirme que ces efforts échouent le plus souvent. Lire la suite
2Entre fantasme et réalité-
Les craintes des professionnels face à l’IA
Cyber et GenAI : des liaisons dangereuses ?
L’IA générative, dont on découvre les capacités en même temps que les (dys)fonctionnements, alimente quantité de fantasmes sur ses dérives supposées… ou réelles. Dans ce contexte, parler de l’utilisation de la GenAI en cyber demande une certaine réserve. Lire la suite
Les dirigeants français effrayés par les cyberattaques dopées à l’IA
L’IA se pose comme outil indispensable dans la détection des menaces et l’assistance aux analystes SOC. C’est aussi un outil mis à profit par les attaquants pour créer de nouvelles attaques et accroître leur rapidité d’exécution. Une menace qui préoccupe les dirigeants français. Lire la suite
Cisco met en avant la lutte contre le Shadow AI
Cisco s’appuie sur la puissance de son statut pour intégrer la sécurité de l’IA dans les outils existants de gestion des accès cloud, y compris les tests de validation algorithmique sur les modèles d’IA. Lire la suite
Risques IA et cybersécurité : les RSSI britanniques attendent de voir
Les RSSI britanniques du ClubCISO ont les yeux rivés sur les menaces telles que les ransomwares et les attaques de la chaîne logistique, et bien que l'IA devienne un risque auquel il faudra s'attaquer un jour, elle n'est pas encore une priorité immédiate en matière d’investissements. Lire la suite
3Dans la pratique-
L’IA est déjà au service de la cybersécurité
Une brève histoire de l’intelligence artificielle appliquée à la cybersécurité
De l’accueil frileux de l’analyse comportementale par apprentissage automatique à l’IA générative, retour sur une courte décennie de transformation intense de la cybersécurité. Lire la suite
Avantages et inconvénients de l’IA dans la cybersécurité
Pour répondre aux enjeux de cybersécurité toujours plus pressants, il peut être tentant de se tourner vers l’IA. Mais sans l’adoption de stratégies adéquates, l’IA peut introduire des risques parallèlement à ses avantages. Lire la suite
IA appliquée à la cybersécurité : Nomios passe Qevlar en production
Après 8 mois de tests, le prestataire de services de sécurité managés mise sur l’IA de Qevlar pour épauler ses analystes dans les premières étapes du traitement des alertes générées par les EDR de ses clients. Lire la suite
NDR : l’IA démontre sa pertinence au conseil départemental du Tarn
Le CD81 a fait le choix de l’appliance NDR de Custody, afin de renforcer la sécurité de son système d’information. L’IA mise au point par la startup assure la surveillance de l’ensemble du trafic de réseau interne de la collectivité territoriale sans surcharger l’équipe SOC. Lire la suite
Le GHT Aisne-Nord Haute-Somme mise sur le NDR pour renforcer sa cybersécurité
Le groupement hospitalier a déployé la sonde Jizô de Sesame IT avant les Jeux olympiques de 2024 pour compléter une visibilité sur les menaces jusque-là limitée aux hôtes couverts par son EDR et ses pare-feu. Lire la suite