pepebaeza - Fotolia

Actualites

Signal Security Summit 2026 : Comment apprendre aux utilisateurs à déjouer les IA malicieuses

La démocratisation de l’IA générative s’invite dans l’ingénierie sociale, rendant les techniques qu'elle recouvrent plus accessibles que jamais. Pour contrer ces attaques, le facteur humain est clé.

Alain Clapaud
par
Publié le: 02 juin 2026

SoSafe a tenu la première édition parisienne de sa conférence utilisateur Signal Security Summit. L’éditeur spécialisé dans la gestion du risque humain a expliqué l’importance du facteur humain face aux nouvelles menaces nées de l’IA générative.

Arnaud Loubatière, directeur France et Europe du Sud de SoSafe a rappelé l’enjeu : « plus d'outils ne suffisent plus à protéger une entreprise. La ligne de défense, la vraie ligne de défense aujourd'hui sur laquelle les cyberattaquants se concentrent, c'est l'humain. Ce que nous voulons mettre en avant, c'est ce qu'on appelle le People Power Security, donc vraiment mettre l'humain au centre de la cybersécurité ». 

Basé à Cologne, l’éditeur présente la particularité d’avoir été cofondé en 2018 par un docteur en psychologie, le docteur Niklas Hellemann. Il occupe le poste de CEO. SoSafe annonce 6 000 clients, pour 5,4 millions d’utilisateurs. En France, sa plateforme a séduit France Travail, Eurazeo, le groupe Barrière, Accor et Aldi.

Fort de cette base installée, l’éditeur vient de publier un état des lieux de l’ingénierie sociale qui en pointe le rôle de plus en plus prégnant dans les attaques sur les collaborateurs : 87 % des répondants, plus d’une centaine de responsables de la sécurité, affirment avoir constaté une augmentation des attaques d’ingénierie sociale augmentée à l’IA. L’intelligence artificielle serait ainsi exploitée par les attaquants via de multiples canaux : 49 % citent les attaques sur les comptes e-mail privés de leurs collaborateurs, 53 % des attaques sur leur ligne téléphonique privée, 67 % sur leurs profils privés sur les réseaux sociaux. Un chiffre est particulièrement frappant : en 2024, 45 % des RSSI avaient été confrontés à de fausses identités au nom de leurs collaborateurs. En 2025, ce taux est monté à 71 % ! Au sein de la rédaction du MagIT, nous avons été même récemment confrontés à un faux profil de prétendu RSSI...

La technique d’ingénierie sociale la plus fréquente reste la compromission d’email (BEC) afin d’envoyer une facture falsifiée, un nouveau RIB, devant le smishing et le phishing sur une application de collaboration.

« L'email est toujours le vecteur principal des attaques », commente Niklas Hellemann, « mais celles-ci sont aussi plus profondes. Grâce à l'utilisation de l'IA, c'est très facile d’enrichir les attaques et les rendre personnalisées en prenant compte du contexte de l’entreprise ». Les attaques sont plus sophistiquées : si 47 % ne sont que des tentatives isolées, dans 46 % des cas, l’attaquant envoie des messages de rappel ou de suivi, et dans 30 % des cas, il enchaîne plusieurs tactiques à l’encontre de sa victime. 

L’autre point clé de l’étude porte sur l’impact de l’IA sur ces attaques visant les utilisateurs. Si l'on en croit les chiffres de cette étude, cet impact est massif : l’usage de LLM est passé de 35 % en 2024 à 49 % en 2025. La falsification de la voix est passée de 16 % à 30 % dans les attaques de vishing et les deepfake vidéo commencent à apparaître. Ceux-ci sont passés de 7 % à 23 % en un an. Jusqu’à aujourd’hui exceptionnelles, Niklas Hellemann estime que les Deepfakes seront monnaie courante d’ici 2 à 3 ans seulement. Pire, les attaquants passent eux-aussi au Vibe-Coding. Quand, en 2024, l’IA permettait de produire de fausses notes de frais très simplement, en 2025, l’IA peut produire des landing pages de sites bancaires ou des fenêtres d’authentification Microsoft tout à fait convaincantes… 

Les RSSI sont aujourd’hui pleinement conscients de la menace : 96 % affirment qu’il est de leur mission de contrer ces menaces IA, mais, en 2024, seulement 26 % étaient confiants dans leur capacité à le faire, contre 40 % en 2025. 

La recette est connue : L’IA pour contrer l’IA 

Estimant être la plus grosse plateforme de gestion des risques humains basée en Europe, SoSafe exploite de plus en plus largement l’IA pour les aider à préparer leurs utilisateurs. Le maître mot donné par le CEO à ses équipes est la flexibilité vis-à-vis de la menace, vis-à-vis du contexte de chaque entreprise et vis-à-vis des utilisateurs eux-mêmes. L’idée est d’adapter les moyens d’ingénierie sociale à la menace.

Ainsi, il est possible pour le RSSI de lancer une simulation d’attaque à partir d’un véritable email de phishing reçu par l’un des employés ou remonté par le renseignement sur les menaces. De la même façon qu’un LLM peut recréer une facture ou une landing page, l’IA de la plateforme SoSafe va être capable de créer une campagne de simulation à partir d’un véritable email de hameçonnage. Une campagne bien évidemment inoffensive, mais qui va préparer les collaborateurs qui pourraient bien être les prochaines cibles de l’attaquant : « nos clients travaillent avec notre équipe de recherche qui analyse les dernières attaques et crée les modèles correspondants. Nous voulions confier à nos clients cette capacité, car parfois c’est une question de jours. Lorsque vous recevez une attaque, une vraie attaque, vous voulez immédiatement sensibiliser vos employés ». 

SoSafe propose aussi de simuler des attaques de hameçonnage vocal. Jugeant le procédé plutôt intrusif, l’éditeur a préféré placer cette simulation au niveau de son module d'apprentissage de l'ingénierie sociale : « les employés peuvent vraiment créer leur propre attaque de vishing et vraiment recevoir un appel. Il y a différents scénarios, mais évidemment, il est aussi possible de personnaliser l’échange. Vous pouvez aussi le traduire, en différentes langues, car il utilise l'IA et les modèles de voix derrière ». Enfin, la plateforme dispose d’un simulateur de deepfakes vidéo essentiellement afin de sensibiliser les managers à ce risque. 

D’une politique de sécurité à des modules d’entraînement 

Pour l’éditeur, la personnalisation des campagnes est la clé dans l’engagement des utilisateurs. Les modules d’entraînement sont déjà capables d’intégrer des éléments propres à l’entreprise dans les simulations pour les rendre plus efficaces, comme par exemple indiquer le nom du DPO et reprendre des éléments graphiques de branding. 

Niklas Hellemann a souhaité aller plus loin et mettre l’IA en œuvre pour analyser la charte de sécurité de l’entreprise et traduire ce document en modules d’entraînement. Il suffit de glisser/déposer le document pdf ou .doc pour que l’IA l’analyse. Le CEO explique : « c’est extrêmement simple. Vous ingérez la politique de sécurité qui contient tous les comportements de sécurité que vous demandez de vos employés et ceux-ci sont traduits en un module d'entraînement plus ou moins structuré ».

Les propositions de l’IA peuvent bien évidemment être éditées. Il est aussi possible de modifier la tonalité de l'entraînement selon que le ton doive être très formel ou plus familier : « vous pouvez aussi ajouter un quiz pour vérifier si les gens ont lu et compris votre charte. Les traductions sont réalisées à la volée grâce à l'IA ». Ces modules de formation peuvent être dispensés sur la plateforme SoSafe ou sur la plateforme de e-Learning (LMS) de l’entreprise via le format SCORM. 

Pour approfondir sur Menaces, Ransomwares, DDoS