Une vidéo montre une personnalité publique en train de déclarer une chose qu'elle n'a jamais dite. Un message vocal imite la voix d'un proche pour demander de l'argent. Une photo compromettante circule sur les réseaux sociaux. Ces scénarios ne relèvent plus de la science-fiction : ils sont devenus possibles grâce aux deepfakes, ces contenus truqués par intelligence artificielle dont le réalisme ne cesse de progresser. Comprendre ce que sont ces hypertrucages, mesurer les risques juridiques et savoir repérer les signes d'une vidéo douteuse devient une compétence de base, aussi bien pour les particuliers que pour les entreprises.
Qu'est-ce qu'un deepfake exactement ?
Le terme deepfake est la contraction de deux mots anglais : deep learning (apprentissage profond) et fake (faux). Il désigne un contenu audio, photo ou vidéo créé ou modifié grâce à des techniques d'intelligence artificielle. L'objectif est d'imiter un visage, une voix ou des mouvements avec un réalisme tel qu'il devient difficile de distinguer le faux du vrai.
La technique la plus répandue repose sur les réseaux antagonistes génératifs (GAN), inventés en 2014 par le chercheur Ian Goodfellow. Le principe est simple : deux algorithmes s'entraînent mutuellement. Le premier fabrique des contrefaçons, le second tente de les détecter. À force de s'affronter, ils s'améliorent ensemble. Plus il y a d'échantillons disponibles, plus le résultat devient crédible.
Concrètement, un deepfake peut prendre plusieurs formes :
- le remplacement d'un visage dans une vidéo existante, appelé face swapping ;
- l'imitation d'une voix dans un message audio, avec resynchronisation des mouvements des lèvres dans le cas d'une vidéo ;
- la création de vidéos ou d'images entièrement fictives.
Le phénomène a émergé publiquement à l'automne 2017 sur le site Reddit, avec des vidéos truquées mettant en scène des célébrités. Depuis, la progression est fulgurante : les chercheurs de la société Deeptrace ont recensé environ 15 000 vidéos deepfakes en ligne en 2019, contre un peu moins de 8 000 un an plus tôt. Plus récemment, une étude a estimé que le nombre de deepfakes malveillants publiés double tous les six mois.
Quels sont les risques juridiques et personnels ?
La création d'un deepfake n'est pas illégale en soi. Un montage satirique, une œuvre artistique ou un divertissement peuvent tout à fait utiliser ces technologies. En revanche, dès que le contenu porte atteinte aux droits d'une personne ou sert une intention malveillante, la responsabilité de l'auteur peut être engagée.
Les usages frauduleux sont nombreux et les sanctions prévues par le code pénal français sont dissuasives. Voici les principaux cas de figure :
Atteinte à la vie privée et usurpation d'identité
Une photo, une vidéo ou un enregistrement vocal publié en ligne peut être détourné pour créer un deepfake sans l'accord de la personne concernée. L'image ou la voix peuvent alors être utilisées pour placer quelqu'un dans des situations fausses, gênantes ou préjudiciables. Le montage réalisé avec l'image d'une personne sans son consentement est puni d'un an d'emprisonnement et de 15 000 euros d'amende, selon l'article 226-8 du code pénal. Si le montage a un caractère sexuel ou s'il est diffusé via un service de communication en ligne, les peines peuvent être alourdies.
Un cas particulièrement préoccupant est celui de la sextorsion : le chantage à la diffusion de contenus à caractère sexuel. La victime est menacée de voir circuler des images truquées d'elle-même, ce qui peut provoquer une détresse psychologique considérable.
Cyberharcèlement
Les deepfakes peuvent servir à humilier, menacer ou faire chanter une personne. Des images ou vidéos truquées sont diffusées pour nuire à une victime, avec des conséquences importantes sur son bien-être, en particulier chez les jeunes. Le harcèlement, en ligne ou non, est puni de deux ans d'emprisonnement et de 30 000 euros d'amende. Les peines sont plus lourdes si la victime est un conjoint, un ex-conjoint ou une personne vulnérable.
Fraudes et escroqueries
La reproduction fidèle d'un visage, d'une voix ou d'un comportement permet d'usurper l'identité d'une personne : ouverture de comptes en ligne, fraude auprès de services, escroquerie visant des proches ou des collaborateurs. L'escroquerie, qui consiste à tromper une personne pour obtenir de l'argent, un bien ou un service, est punie de cinq ans d'emprisonnement et de 375 000 euros d'amende.
Désinformation et manipulation de l'opinion
Les deepfakes peuvent être créés pour tromper le public. Des vidéos ou des audios falsifiés de personnalités sont diffusés pour manipuler l'opinion, nuire à une réputation ou propager de fausses informations. Un exemple marquant : au début de l'année 2022, une vidéo publiée sur Facebook et YouTube montrait le président ukrainien Volodymyr Zelensky appelant les soldats ukrainiens à déposer les armes. Il s'agissait d'un deepfake de qualité médiocre, mais il a été diffusé sur le site d'un réseau d'information national, ce qui a semé le doute.
Depuis 2018, le nombre de deepfakes malveillants publiés double tous les 6 mois. En décembre 2020, on en dénombrait 85 000.
Comment repérer une vidéo douteuse ?
Les deepfakes professionnels nécessitent des systèmes de traitement haut de gamme et l'intervention d'experts. Mais la plupart des contenus malveillants sont créés avec des applications accessibles au grand public, ce qui laisse des traces visibles. Voici les indices à vérifier :
Les signes visuels et auditifs
- Les mouvements des lèvres ne sont pas parfaitement synchronisés avec la voix ;
- Le clignement des yeux est irrégulier ou absent, car les algorithmes peinent à reproduire ce réflexe naturel ;
- Les contours du visage présentent des flous ou des déformations, notamment autour des cheveux et des oreilles ;
- La qualité de l'image varie entre le visage et le reste de la vidéo ;
- La voix a un timbre légèrement métallique ou robotique, avec des intonations inhabituelles ;
- Les tics de langage et les pauses naturelles de la personne sont absents ou mal reproduits.
Le contexte de diffusion
Un deepfake circule rarement dans un contexte neutre. Posez-vous les bonnes questions : la vidéo provient-elle d'un compte vérifié ou d'une source inconnue ? A-t-elle été publiée sur un site légitime ou sur une plateforme douteuse ? Le contenu cherche-t-il à provoquer une réaction émotionnelle forte, comme la colère ou la peur ? Ces éléments de contexte sont souvent plus fiables que l'analyse technique elle-même.
La vérification croisée reste la méthode la plus efficace. Si une vidéo montre une personnalité faisant une déclaration importante, cherchez la même information sur les sites d'actualité fiables. Si elle n'apparaît nulle part ailleurs, c'est un signal d'alerte.
Quels réflexes adopter face à un deepfake ?
Lorsque vous êtes confronté à un contenu suspect, plusieurs réflexes s'imposent. La CNIL recommande notamment de ne pas partager la vidéo, même pour la dénoncer : chaque partage contribue à sa diffusion et augmente le préjudice pour la personne visée.
Les bons réflexes de protection
Pour limiter les risques d'être victime d'un deepfake, il faut d'abord protéger ses données personnelles. Les images et les enregistrements vocaux publiés en ligne peuvent être récupérés et détournés. Réglez vos paramètres de confidentialité sur les réseaux sociaux, limitez l'accès à vos photos et réfléchissez avant de publier un contenu qui pourrait être utilisé contre vous.
En cas de demande inhabituelle par téléphone ou par message, notamment une demande d'argent urgente, raccrochez et rappelez la personne via un numéro connu. Ne vous fiez jamais à une voix ou à une image seule pour valider une opération financière.
Comment signaler un contenu illicite ?
Si vous êtes victime ou témoin d'un deepfake malveillant, plusieurs recours existent. Vous pouvez signaler le contenu directement sur la plateforme où il est publié. La CNIL met également à disposition des outils pour signaler les contenus illicites. Selon la gravité des faits, un dépôt de plainte auprès des forces de l'ordre peut être nécessaire, notamment en cas de chantage, de harcèlement ou d'escroquerie.
Les entreprises doivent intégrer ce risque dans leur politique de sécurité. Une fraude au deepfake peut cibler un dirigeant pour autoriser un virement frauduleux ou usurper l'identité d'un employé pour accéder à des données sensibles. La sensibilisation des équipes et la mise en place de procédures de vérification pour les opérations sensibles sont des mesures de base.
Les outils de détection existent-ils ?
Face à la prolifération des deepfakes, les acteurs technologiques développent des contre-mesures. Google a publié en septembre 2019 une base de données d'un peu plus de 3 000 vidéos deepfakes pour aider les ingénieurs et chercheurs à créer des outils de détection automatisés reposant sur l'IA. Le laboratoire FAIR de Facebook travaille sur un projet de désidentification : une IA qui applique un filtre sur les vidéos pour empêcher leur exploitation par des logiciels de reconnaissance faciale.
Ces outils sont utiles, mais ils ne sont pas infaillibles. Les deepfakes les plus sophistiqués peuvent tromper les logiciels de détection, tout comme les algorithmes de détection s'améliorent au fil du temps. La prudence et l'esprit critique restent les meilleures protections.
La réglementation évolue-t-elle ?
Le cadre juridique français et européen s'adapte progressivement. La CNIL a exprimé dès novembre 2019 sa volonté de créer un cadre législatif et réglementaire pour la reconnaissance faciale et la conception des deepfakes. Le droit existant permet déjà de sanctionner les usages malveillants, comme le montrent les articles du code pénal cités précédemment. Mais la rapidité d'évolution de la technologie oblige les législateurs à ajuster régulièrement les textes.
La création d'un deepfake n'est pas un délit en soi. C'est l'usage qui est fait du contenu qui détermine la qualification juridique. Cette distinction est importante : elle protège la liberté d'expression et la création artistique tout en sanctionnant les abus.
Face à un deepfake, la première question à se poser n'est pas technique mais pratique : ce contenu cherche-t-il à me tromper, à me nuire ou à nuire à quelqu'un ? Si la réponse est oui, ne le partagez pas, signalez-le et, si vous êtes victime, portez plainte. La diffusion d'un deepfake ne fait qu'amplifier le préjudice : chaque vue, chaque partage donne de la crédibilité à la tromperie. Le réflexe le plus efficace reste encore de prendre le temps de vérifier avant de croire, et de se rappeler que ce que l'on voit n'est pas toujours la réalité.
