Comment identifier les vidéos Deepfake IA ?

L’expansion des technologies des deepfakes a rendu plus complexe la différenciation entre les vidéos authentiques et celles modifiées. Ces vidéos manipulées, créées par intelligence artificielle, permettent de produire des contenus visuels et audio convaincants. Ces contenus peuvent être exploités pour propager des fausses informations, ternir des réputations, ou influencer des élections.

Pour empêcher la diffusion de désinformation, il est crucial que les vérificateurs de faits maîtrisent la détection des deepfakes. Cet article propose une exploration des deepfakes, des risques associés et des techniques pour les identifier efficacement.

Qu’est-ce qu’une vidéo Deepfake ?

Les deepfakes, sont créés grâce au deep learning, une branche de l'intelligence artificielle. Ce procédé permet de remplacer l'image d'une personne par une autre, créant une vidéo qui semble authentique. Le terme "deepfake" combine les mots "deep learning" et "fake."

Certains deepfakes servent à des fins ludiques. Mais d'autres sont utilisés de manière nuisible, par exemple pour diffuser de la désinformation ou harceler des individus.

Les deepfakes sont générés à l'aide de réseaux antagonistes génératifs (GAN). Ce mécanisme oppose deux algorithmes : le générateur, qui crée des contenus falsifiés, et le discriminateur, qui tente de détecter les fausses images. Au fil du temps, le générateur perfectionne ses créations jusqu'à les rendre suffisamment réalistes pour tromper l'algorithme et les spectateurs humains.

Quels dangers représentent les vidéos deepfake ?

Aujourd'hui, il est devenu très simple de créer un deepfake. L’utilisation des deepfakes permet de propager des fausses informations, de manipuler l’opinion publique, et d’affaiblir la confiance envers les médias et les institutions. Dans le domaine politique, il est possible qu’un deepfake bien orchestré influence une élection ou incite à des actes de violence. Pour les particuliers, ces contenus sont parfois utilisés pour produire de la pornographie non consensuelle ou pour harceler des individus.

Un exemple marquant concerne une vidéo manipulée de Nancy Pelosi, présidente de la Chambre des représentants des États-Unis. La vidéo, ralentie pour donner l’impression qu’elle était ivre ou sénile, a rapidement circulé sur Internet. Elle a été visionnée des millions de fois et même partagée par des personnalités influentes, telles que Rudy Giuliani, ancien maire de New York et avocat de Donald Trump.

Comment Identifier des Vidéos Deepfake Générées par l’IA ?

Bien que les deepfakes soient de plus en plus sophistiqués, certains signes distinctifs permettent encore de les détecter. Voici quelques indices à observer :

1°) Chercher des mouvements oculaires et des clignements anormaux

Les mouvements oculaires ou clignements atypiques sont souvent observés dans les deepfakes. Normalement, les gens clignent fréquemment des yeux et leurs mouvements sont fluides. Toutefois, l’intelligence artificielle a parfois du mal à reproduire ces comportements naturels, créant une impression étrange dans le regard.

2°) Chercher des expressions faciales ou mouvements de bouche mal synchronisés

Des difficultés dans la synchronisation des expressions faciales et des mouvements de la bouche avec l'audio peuvent être constatées. Si les lèvres ne semblent pas alignées avec ce qui est dit, ou si les expressions ne correspondent pas à l'émotion des paroles, cela peut indiquer une manipulation.

3°) Chercher des incohérences dans le teint, l’éclairage ou les ombres

Il est important de prêter attention aux détails tels que le teint, les cheveux, l'éclairage et les ombres sur le visage. Si des incohérences sont repérées, comme un teint inégal ou un éclairage non naturel, cela pourrait signaler un deepfake.

4°) Chercher des flous et artefacts visuels

Les deepfakes peuvent présenter des artefacts visuels, notamment autour du visage. Il est conseillé de rechercher des zones floues, des pixellisations ou d'autres anomalies visuelles, bien que les deepfakes les plus avancés puissent réduire ces imperfections.

5°) Chercher un décalage entre l’audio et la vidéo

Enfin, il faut surveiller la synchronisation entre l'audio et la vidéo. Les deepfakes de qualité médiocre présentent souvent un léger décalage ou une inadéquation, donnant l'impression d'un mauvais doublage.

Quelles sont les techniques avancées pour détecter des deepfakes ?

Bien que les conseils précédents aident à identifier les deepfakes basiques, des méthodes plus avancées sont nécessaires pour ceux de haute qualité. Voici quelques approches utilisées par les spécialistes :

• Modèles de détection d’IA et d’apprentissage automatique : Des algorithmes spécifiques sont développés par des chercheurs pour identifier les incohérences subtiles propres aux deepfakes.

• Blockchain et filigrane numérique : La technologie blockchain est explorée par certaines entreprises afin de créer des filigranes numériques inaltérables pour les vidéos et images.

• Analyse des niveaux de compression et des artefacts : Les deepfakes peuvent être repérés par l’analyse des niveaux de compression et des empreintes numériques laissées pendant leur création.

• Reflets et ombres : Les manipulations vidéo sont souvent détectées en observant les reflets dans les yeux ou les ombres qui semblent incohérents.

Ces techniques évoluent continuellement pour suivre les progrès des deepfakes. 

Quels sont les meilleurs outils pour détecter les deepfakes ?

En 2024, les deepfakes devenant plus répandus et sophistiqués, il est essentiel de disposer d’outils fiables pour les détecter. Voici quelques-uns des outils de détection les plus populaires :

1°) WeVerify

WeVerify est un outil développé pour vérifier et analyser l'authenticité du contenu en ligne. Des algorithmes d'intelligence artificielle avancés sont utilisés pour identifier les deepfakes avec une grande précision. Cet outil fait partie d'un projet plus large visant à lutter contre la désinformation en ligne et à offrir une protection contre les contenus manipulés.

2°) Sensity AI

Sensity AI, autrefois appelé Deeptrace Labs, est un leader dans la détection des deepfakes. Des techniques de vision par ordinateur et d’apprentissage profond sont employées pour identifier les manipulations dans les vidéos. Ce système fonctionne en temps réel, ce qui le rend utile pour la surveillance des flux en direct ou des médias sociaux. Sensity AI inclut aussi une extension de navigateur pour une utilisation rapide.

3°) Deepware

Deepware propose une plateforme basée sur l'intelligence artificielle pour détecter divers types de deepfakes, y compris les échanges de visages et le clonage de voix. L'outil est conçu pour être simple à utiliser et s'intègre facilement aux systèmes existants, ce qui le rend approprié pour les organisations de toutes tailles.

Quel avenir pour les deepfakes avec la détection par les outils d’IA ?

À mesure que l’intelligence artificielle progresse rapidement, la distinction entre deepfakes et vidéos authentiques devient de plus en plus complexe. Certains spécialistes prévoient que, dans les prochaines années, les deepfakes pourraient devenir totalement indiscernables des vidéos réelles.

Pour contrer cette menace, les chercheurs se concentrent sur le développement de technologies de détection toujours plus avancées. Pourtant, chaque progrès en matière de détection est suivi par des améliorations similaires dans les techniques de création des deepfakes, entraînant un perpétuel jeu du chat et de la souris.

Au-delà des solutions techniques, il devient crucial de permettre au public d’évaluer les vidéos en ligne de manière critique. Les journalistes et vérificateurs de faits sont indispensables pour identifier et démystifier les deepfakes. Ils aideront à limiter la propagation des fausses informations.