À l'heure où la technologie évolue un peu plus chaque jour, de nouvelles menaces planent au-dessus des entreprises. Les pratiques frauduleuses comme le deepfake peuvent être utilisées pour marquer les esprits et susciter des likes mais aussi, pour extorquer des données sensibles et confidentielles. L'apparition officielle du deepfake remonte à 2017 lorsqu'un utilisateur publie plusieurs vidéos truquées sous le pseudonyme de « Deepfakes » .
L'IA menant à ce processus a quant à elle été créée en 2014 par le chercheur Ian Goodfellow. Ce dernier a mis au point la technologie GAN conçue sur la base de deux algorithmes afin de concevoir une vidéo s'approchant au plus près du réel.
Qu'est-ce que le deepfake ?
Il s'agit d’un terme anglais (contraction de « Deep learning » et « fake » ) qui peut se traduire par « hypertrucage » . Cette pratique qui consiste à truquer une photo ou une vidéo est généralement utilisée dans le but de nuire à la personne mise en scène en lui imaginant un comportement ou des propos falsifiés. Le deepfake s’appuie sur une base de données de vraies images et vidéos.
Comment sont créés les deepfakes ?
Les deepfakes sont nés de l'utilisation des techniques de l'intelligence artificielle (deep learning, generative adversarial networks ou réseaux antagonistes génératifs) pour tromper les internautes et leur faire croire à une mise en scène imaginée de toutes pièces. Lors de la création d'un deepfake, les visages sont détournés et générés à l'aide d'un algorithme pointu.
Les principales techniques de synthèse et trucage vidéo pour créer un deepfake sont :
- Le « face swap » : prendre le visage d'une personne et le mettre sur un autre corps de manière réaliste.
- Le « face to face » : utiliser la bouche d'une personne pour lui faire dire des propos inventés.
- Le « lip sync » : recours à la synchronisation labiale pour obtenir un résultat vocal troublant et réaliste.
- La synthèse intégrale permet quant à elle de créer la photo ultra-réaliste d'une personne qui n'existe pas.
Certains sites ou applications ont fait du deepfake une spécialité. C'est le cas de Reface, Zao, Faceswap, Doublicat, MachineTube ou Deepfakes web.
Comment les deepfakes sont-ils utilisés ?
Selon Sensity, un éditeur américain expert dans le domaine de la cybersécurité, le nombre de deepfakes est en constante progression. On en comptait 15 000 en 2019 et ce chiffre ne fait qu'augmenter au fil des mois. Les deepfakes sont particulièrement utilisés sur des célébrités (acteurs, chanteurs, hommes politiques) et peuvent mettre à mal leur réputation.
L'utilisation de ce montage peut être malveillante, humoristique ou purement professionnelle.
L'utilisation à caractère malveillant
Ici, on cherche à porter atteinte à une personne ou une entreprise avec la volonté de lui nuire. Cette utilisation du deepfake peut avoir des conséquences dramatiques pour la personne ou la structure visée (perte de crédibilité, perte de confiance en soi).
L'utilisation humoristique
Dans ce cas, un ton léger est employé. L'idée est résolument d'attirer l'attention et de faire rire, sans forcément avoir une intention de départ malveillante.
L'utilisation à caractère professionnel
Il s'agit d'utiliser la technologie du deepfake pour animer par exemple les personnages d'un jeu vidéo ou doubler des films dans différentes langues, de manière réaliste. Le deepfake peut aussi être utile pour ramener un personnage à la vie dans un film. Enfin, certaines marques utilisent le deepfake à des fins commerciales.
Comment reconnaître un deepfake ?
Aujourd'hui, la qualité des deepfakes ne cesse de s'améliorer avec la résolution HD et il devient parfois difficile de dissocier la réalité du montage. Il existe cependant quelques astuces pour repérer un deepfake. Il est notamment important de regarder les expressions du visage. Par exemple, sur ce type de montage, la personne ne ferme pas les yeux.
La qualité médiocre de certains montages et la mauvaise synchronisation des lèvres les rendent également plus faciles à repérer. Dans un premier temps, avant de porter un jugement sur la véracité de la vidéo, il est conseillé de vérifier que la source du média en question est digne de confiance. Enfin, aujourd'hui, certains outils de détection automatisés reposant sur l'intelligence artificielle se mettent en place afin de démêler le vrai du faux.
Quels sont les risques des deepfakes ?
Les risques liés aux deepfakes sont multiples. D'un côté, tout le monde peut avoir accès à un logiciel spécialisé dans le montage vidéo depuis un ordinateur ou un téléphone. Chacun peut donc créer des médias à domicile et devenir un détracteur potentiel. L'évolution rapide des technologies facilite également ce genre de comportement. Les créateurs de deepkakes ont également souvent une longueur d’avance due aux difficultés de traçage.
Parmi les risques liés à ce phénomène, la technique frauduleuse du deepfake nuit à la personne ou l'entreprise visée et à sa crédibilité, son image et ses valeurs. Ce procédé peut entraîner diffamation, humiliation et désinformation. Enfin, cela a tendance à augmenter le phénomène des fake news et de ses effets néfastes sur les réseaux sociaux.
Les risques de manipulation
Les risques de manipulation liés au deepfake sont nombreux :
- Manipulation d'une personne, de son image et identité (utilisation par exemple de deepfakes au sein de vidéos à caractère pornographique).
- Manipulation politique pour nuire à un candidat lors d'une élection ou pour le discréditer.
- Manipuler la vérité en faisant croire aux internautes que la vidéo reflète la réalité.
- Manipulation via la voix pour voler des données personnelles ou de l'argent à une entreprise ou une personne (technique utilisée pour améliorer l'ingénierie sociale et la cybercriminalité).
Les risques légaux
Suite à la création et à l'utilisation de deepfakes, plusieurs risques légaux existent pour la personne (ou l'entreprise) à l'origine du montage :
- Une entreprise utilisant le deepfake peut encourir des risques légaux importants liés à la violation de copyright et à l'usurpation d'identité.
- Différentes réglementations existent pour protéger la personne visée par le deepfake. Ces dernières se basent notamment sur le droit à l'image et la protection de la vie privée et des données personnelles.
- L'article 226-8 du Code pénal permet de punir toute personne faisant l'usage d'une image ou de paroles sans le consentement du (ou de la) principal(e) intéressé(e) : « Est puni d'un an d'emprisonnement et de 15 000 euros d'amende le fait de publier, par quelque voie que ce soit, le montage réalisé avec les paroles ou l'image d'une personne sans son consentement, s'il n'apparaît pas à l'évidence qu'il s'agit d'un montage ou s'il n'en est pas expressément fait mention » .
- L'article 226-4-1 du Code pénal concerne quant à lui l'usurpation d'identité : « Le fait d'usurper l'identité d'un tiers ou de faire usage d'une ou plusieurs données de toute nature permettant de l'identifier en vue de troubler sa tranquillité ou celle d'autrui, ou de porter atteinte à son honneur ou à sa considération, est puni d'un an d'emprisonnement et de 15 000 € d'amende ».
La propagation des deepfakes sur Internet met en lumière le fait que la distinction entre le vrai et le faux devient aujourd'hui de plus en plus compliquée. Le retard des outils de contrôle inquiète et amène à penser qu'avec l'avancée des technologies et la potentielle création de vidéos sans source racine, la vérification deviendrait encore plus complexe. Il est plus que jamais important de ne pas prendre pour argent comptant toute image ou vidéo circulant sur le web.
Pour aller plus loin, téléchargez ce guide gratuit et découvrez comment mettre en place une stratégie de marketing vidéo performante.
