Guides Essentiels

La cybersécurité à l’heure de l’IA générative

Introduction

L’incursion de l’intelligence artificielle dans la cybersécurité n’est pas une nouveauté. Ce qui l’est, c’est celle de l’IA générative. Cette dernière a rapidement été cuisinée à de nombreuses sauces dans de multiples solutions de cybersécurité diverses et variées, avec des impacts plus ou moins significatifs.

Et cela selon les usages tout autant que la maturité des utilisateurs. Car l’IA générative, pour puissante qu’elle soit, n’a rien d’une solution magique capable de répondre à toutes les problématiques sans un minimum d’apprentissage et d’expérimentation.

Autrement dit : encore faut-il savoir comment en tirer pleinement parti. Et cela ne serait-ce que pour contrôler ses productions, afin de pouvoir détecter d’éventuelles hallucinations ou omissions. Lesquelles pourraient s’avérer critiques dans un contexte d’application à la cybersécurité, qu’il s’agisse d’analyser un incident ou de produire des recommandations de mesures correctives.

Bien sûr, l’intelligence artificielle ne manque pas d’apporter avec elle son lot de menaces, du plus ou moins innocent Shadow AI jusqu’aux applications franchement malveillantes. Au-delà des fantasmes, des recherches ont déjà fait clairement la démonstration des possibilités de passage outre les garde-fous mis en place pour les fournisseurs d’IA générative. Jusqu’à réussir à en obtenir le développement de logiciels malveillants totalement fonctionnels.

Télécharger gratuitement ce dossier au format PDF

1Menaces-

La sécurisation de l’IA générative face à ses limites

Actualités

GenAI : comment un chercheur de Cato a poussé un LLM à lui écrire un infostealer

Un chercheur de Cato Networks a embarqué des IA génératives dans une fiction, dans laquelle elles devaient aider le héros à déjouer les plans du méchant en dérobant ses identifiants confiés à son navigateur Web. Lire la suite

Actualités

GenAI : comment des acteurs avancés persistants la détournent

Des acteurs malveillants dits avancés et persistants, soutenus par des États-Nation, détournent l’IA générative. Les équipes de Google l’ont en particulier identifié pour le LLM maison, Gemini. Lire la suite

Actualités

OpenAI détaille comment les acteurs malveillants abusent de ChatGPT

Alors que les acteurs malveillants utilisent des outils d'IA générative comme ChatGPT pour mener des opérations d'influence électorale et développer des malwares, OpenAI affirme que ces efforts échouent le plus souvent. Lire la suite

2Entre fantasme et réalité-

Les craintes des professionnels face à l’IA

Actualités

Cyber et GenAI : des liaisons dangereuses ?

L’IA générative, dont on découvre les capacités en même temps que les (dys)fonctionnements, alimente quantité de fantasmes sur ses dérives supposées… ou réelles. Dans ce contexte, parler de l’utilisation de la GenAI en cyber demande une certaine réserve. Lire la suite

Actualités

Les dirigeants français effrayés par les cyberattaques dopées à l’IA

L’IA se pose comme outil indispensable dans la détection des menaces et l’assistance aux analystes SOC. C’est aussi un outil mis à profit par les attaquants pour créer de nouvelles attaques et accroître leur rapidité d’exécution. Une menace qui préoccupe les dirigeants français. Lire la suite

Actualités

Cisco met en avant la lutte contre le Shadow AI

Cisco s’appuie sur la puissance de son statut pour intégrer la sécurité de l’IA dans les outils existants de gestion des accès cloud, y compris les tests de validation algorithmique sur les modèles d’IA. Lire la suite

Actualités

Risques IA et cybersécurité : les RSSI britanniques attendent de voir

Les RSSI britanniques du ClubCISO ont les yeux rivés sur les menaces telles que les ransomwares et les attaques de la chaîne logistique, et bien que l'IA devienne un risque auquel il faudra s'attaquer un jour, elle n'est pas encore une priorité immédiate en matière d’investissements. Lire la suite

3Dans la pratique-

L’IA est déjà au service de la cybersécurité

Actualités

Une brève histoire de l’intelligence artificielle appliquée à la cybersécurité

De l’accueil frileux de l’analyse comportementale par apprentissage automatique à l’IA générative, retour sur une courte décennie de transformation intense de la cybersécurité. Lire la suite

Conseils IT

Avantages et inconvénients de l’IA dans la cybersécurité

Pour répondre aux enjeux de cybersécurité toujours plus pressants, il peut être tentant de se tourner vers l’IA. Mais sans l’adoption de stratégies adéquates, l’IA peut introduire des risques parallèlement à ses avantages. Lire la suite

Actualités

IA appliquée à la cybersécurité : Nomios passe Qevlar en production

Après 8 mois de tests, le prestataire de services de sécurité managés mise sur l’IA de Qevlar pour épauler ses analystes dans les premières étapes du traitement des alertes générées par les EDR de ses clients. Lire la suite

Projets IT

NDR : l’IA démontre sa pertinence au conseil départemental du Tarn

Le CD81 a fait le choix de l’appliance NDR de Custody, afin de renforcer la sécurité de son système d’information. L’IA mise au point par la startup assure la surveillance de l’ensemble du trafic de réseau interne de la collectivité territoriale sans surcharger l’équipe SOC. Lire la suite

Projets IT

Le GHT Aisne-Nord Haute-Somme mise sur le NDR pour renforcer sa cybersécurité

Le groupement hospitalier a déployé la sonde Jizô de Sesame IT avant les Jeux olympiques de 2024 pour compléter une visibilité sur les menaces jusque-là limitée aux hôtes couverts par son EDR et ses pare-feu. Lire la suite