pepebaeza - Fotolia

5 outils de détection des deepfakes pour protéger les utilisateurs professionnels

Les deepfakes font des ravages dans le monde entier, et ce n’est probablement que le début. Pour lutter contre ce fléau, les RSSI devraient envisager d’utiliser des outils de détection des deepfakes basés sur l’IA.

À mesure que les outils permettant de créer des deepfakes deviennent plus sophistiqués, abordables et accessibles, les RSSI doivent se préparer à une augmentation du nombre d’attaques d’ingénierie sociale reposant sur des contenus audio et vidéo frauduleux.

Au cours des mois et des années à venir, de nombreux utilisateurs finaux en entreprise seront probablement confrontés à des deepfakes très convaincants (imitations de collègues ou d’autres contacts de confiance, par exemple) qui pourraient les inciter à transférer des fonds ou à communiquer des informations sensibles à des acteurs malveillants, voire embaucher des acteurs malveillants.

En plus de sensibiliser les utilisateurs aux menaces croissantes liées au deepfake et à l’ingénierie sociale, les responsables de la sécurité doivent rester attentifs à une nouvelle catégorie d’IA défensive et à la manière dont elle pourrait les aider à protéger leurs organisations : la technologie de détection du deepfake.

Examinons cinq des meilleurs outils dont disposent aujourd’hui les RSSI pour détecter les vidéos deepfake qui pénètrent dans leur organisation.

5 outils de détection des deepfakes à prendre en considération

Le marché de la détection des deepfakes connaît une expansion rapide, et il existe bien plus d’outils que cet article ne peut en couvrir. J’ai sélectionné les outils ci-dessous, classés par ordre alphabétique, en me basant sur les critères suivants :

  • Leur capacité à analyser des vidéos sans s’appuyer sur les filigranes. Les logiciels de montage vidéo, tels qu’Adobe et Canva, peuvent ajouter des filigranes (un logo ou du texte superposé à la vidéo) afin d’indiquer la propriété ou les droits d’auteur. Il ne s’agit pas d’un indicateur fiable des deepfakes, car les filigranes peuvent également être falsifiés.
  • L’utilisation d’une variété de techniques de détection des deepfakes. La plupart des outils actuels ne prennent en charge qu’une ou quelques techniques, ce qui signifie qu’ils sont généralement plus efficaces pour identifier certains types de vidéos deepfake, mais peuvent être incapables d’en identifier d’autres.

Plateforme vidéo Attestiv

La plateforme vidéo Attestiv fonctionne en téléchargeant des vidéos sur le cloud et en les analysant pour détecter des signes de montage, de manipulation ou de génération par IA. Le logiciel évalue ensuite le degré de suspicion de la vidéo sur une échelle de 1 à 100.

Attestiv fournit son logiciel sous forme de plateforme web et d’API.

Deepware Scanner

Deepware Scanner analyse les visages humains dans les vidéos à la recherche d’indices (tels que des traits déformés ou des mouvements non naturels) indiquant qu’ils ont été modifiés ou remplacés, puis signale la probabilité que les vidéos soient des deepfakes. Il n’analyse aucun autre élément vidéo, tel que les pistes audio.

Deepware Scanner est actuellement gratuit et disponible sous forme de plateforme web et via API et SDK. Les utilisateurs peuvent télécharger des vidéos ou soumettre des URL pour les analyser.

DeepDetector, Waver et Phocus de DuckDuckGoose

DuckDuckGoose fournit les outils suivants pour la détection en temps réel et multimodale des deepfakes de niveau professionnel dans les contenus en direct et enregistrés :

  • DeepDetector. Détection en temps réel des images et vidéos deepfake dans les déploiements sur site.
  • Waver. Détection en temps réel et indépendante de la langue des discours deepfake. Disponible via intégration API.
  • Phocus. Plateforme web qui intègre DeepDetector et Waver pour la détection des deepfakes dans les images, les vidéos et les fichiers audio. Accessible via un navigateur.

DuckDuckGoose affirme que ses outils ont une précision de détection des deepfakes d’environ 96 %, avec un temps d’analyse inférieur à une seconde. Le logiciel indique la probabilité que chaque vidéo soit un deepfake et explique également le raisonnement qui sous-tend son estimation.

Reality Defender

Reality Defender examine minutieusement les fichiers afin de détecter toute génération par IA et toute altération des fichiers audio, vidéo et images, et surveille les flux vidéo en temps réel afin de détecter toute tentative d’usurpation d’identité.

La société propose diverses options de déploiement dans le cloud et sur site, notamment des API et des plug-ins pour les applications avec flux vidéo en temps réel, telles que les logiciels de visioconférence populaires.

Sensity IA

Sensity AI analyse les vidéos, les fichiers audio et les images à la recherche de signes indiquant la présence de visages manipulés, de voix synthétiques et d’images générées par l’IA, tout en examinant la structure des fichiers eux-mêmes. Sensity affirme que son logiciel offre une précision de détection des deepfakes de 98 %. La plateforme propose également des modules de formation interactifs pour aider les employés à apprendre à repérer les deepfakes.

Sensity AI est disponible pour les déploiements sur site et dans le cloud, avec une plateforme web et un accès API.

Karen Kent est cofondatrice de Trusted Cyber Annex. Elle fournit des services de recherche et de publication en matière de cybersécurité à diverses organisations et était auparavant informaticienne senior au NIST.

Pour approfondir sur Gestion de la sécurité (SIEM, SOAR, SOC)