Les deepfake, nouveaux enjeux de cybersécurité ?

Les pirates redoubleront toujours d’ingéniosité pour développer de nouvelles formes d’attaques. Vous avez certainement déjà entendu parler du « deepfake » ou des fausses images ou encore de faux enregistrements audio réalisés dans un but frauduleux ou de manipulation.

Dans cet article, nous revenons ce que sont les deepfake et en quoi ils représentent un nouvel enjeu majeur en matière de cybersécurité.

Le terme « deepfake » est une contraction de « deep learning », que l’on peut traduire par apprentissage profond et de « fake », que l’on peut traduire par faux.

Un deepfake est une vidéo, une image ou un enregistrement audio falsifié créé à l’aide d’algorithmes d’intelligence artificielle. L’usage de l’intelligence artificielle permet de superposer des images ou des sons existants sur d’autres supports créant ainsi des contenus incroyablement réalistes mais trompeurs. L’objectif est de duper la personne qui sera exposée au faux contenu ou de diffuser des fausses informations.

Le recours à cette technologie permet aux pirates de modifier l’apparence ou la voix d’une personne pour lui faire faire ou lui faire dire des choses qu’elle n’aurait probablement jamais faites ou jamais dites. On perçoit immédiatement le danger d’une telle pratique !

Pour créer les deepfakes, les cybercriminels ont recours à un processus bien rôdé :

• 1ère étape : la collecte de données

Pour créer un deepfake, une grande quantité de données (images, vidéos, enregistrements audio) de la personne victime du deepfake est nécessaire. Pour cette phase de collecte, les pirates ont principalement recours à ce qu’on appelle l’ingénierie sociale, en exploitant les données personnelles des victimes disponibles sur internet.

• 2ème étape : l’entraînement de l’algorithme

Les algorithmes d’intelligence artificielle utilisés pour créer les deepfake sont entraînés sur les données collectées pour apprendre les caractéristiques spécifiques de la victime cible, comme les mouvements de son visage, ses expressions, sa voix, ses intonations etc. L’objectif est de créer un faux contenu qui soit le plus réaliste possible et donc le plus trompeur possible.

• 3ème étape : la génération de contenu

Une fois l’algorithme entraîné, il peut générer des vidéos ou des enregistrements audio qui semblent authentiques, en plaçant le visage ou la voix de la personne cible sur ceux d’un autre individu par exemple.

Les deepfake peuvent être utilisés pour créer des vidéos où des célébrités ou des personnalités politiques semblent dire ou faire des choses qu’elles n’ont jamais dites ou faites.

Ainsi, les deepfakes peuvent être utilisés pour créer de fausses informations extrêmement convaincantes. Cela peut être particulièrement dangereux dans un contexte politique, où des vidéos falsifiées peuvent être utilisées pour manipuler l’opinion publique, influencer des élections ou diffuser des fausses informations.

Par exemple, tout récemment en novembre 2024, la journaliste Anne-Claire Coudray et l’influenceur Tibo InShape ont été victimes d’un deepfake les mettant en scène dans un faux reportage faisant la promotion d’une application permettant de « gagner beaucoup d’argent ». Un bel exemple de tentative de manipulation !

Les deepfake ne sont pas seulement utilisés dans un but de campagne d’influence ou de désinformation. Les pirates s’en servent également pour mener des cyber escroquerie au sein des entreprises.

Les cybercriminels peuvent en effet utiliser les deepfake pour commettre des fraudes et des escroqueries comme des arnaques au président. Par exemple, un deepfake audio peut être utilisé pour imiter la voix d’un dirigeant d’entreprise et demander le transfert des fonds vers un compte frauduleux.

Par exemple, en début d’année 2024, une entreprise d’Hong-Kong s’est vue dérober 26 millions de dollars (soit 24 millions d’euros) suite à des appels en visioconférence avec des personne se faisant notamment passer pour le directeur financier de l’entreprise, demandant à des équipes de transférer des sommes importantes d’argent.

Les deepfake peuvent aussi causer des dommages irréparables à la réputation des individus en les représentant dans des situations compromettantes ou humiliantes. Cela peut avoir des conséquences graves tant sur le plan personnel que professionnel.

Les cybercriminels peuvent créer des deepfake compromettant pour manipuler et faire chanter leurs victimes. En menaçant de publier ces faux contenus, ils peuvent extorquer de l’argent à leur victime. Un procédé qui n’est pas sans rappeler celui du ransomware.

Il est nécessaire de sensibiliser le public à l’existence des deepfake et aux dangers qu’ils représentent. Il serait également nécessaire d’insister sur la façon de détecter les deepfake les moins aboutis. Cela peut se traduire par des signes tels que des mouvements de bouche ou des expressions faciales qui ne correspondent pas parfaitement aux paroles, ou par des anomalies dans la qualité de l’image ou du son. Ces anomalies doivent alerter et éveiller l’esprit critique.

En outre, il est essentiel d’insister, et ce dès le plus jeune âge, sur la nécessité de vérifier les sources d’informations et d’effectuer des recherches corroborant l’information divulguée, avant de partager un contenu ou de croire une vidéo ou un enregistrement audio.

Des technologies avancées de détection des deepfake sont en développement. Ces outils utilisent des algorithmes d’IA pour analyser les vidéos et détecter les anomalies caractéristiques des deepfake. Des outils existent déjà pour détecter des textes rédigés par IA génératives, la suite ne saurait tarder.