Des chercheurs de Facebook affirment pouvoir détecter les "deepfakes" et leur origine

Des chercheurs de Facebook affirment pouvoir détecter les "deepfakes" et leur origine,
Grâce à un nouveau logiciel

Le développement rapide de la technique de "deepfake" et la multiplication de ses applications poussent les plateformes d’Internet à innover afin d’adapter leurs outils et lutter contre ces contenus vidéo et audio contrefaits et diffusés en ligne. Des chercheurs de Facebook affirment avoir mis au point une intelligence artificielle capable d'identifier les deepfakes et de déterminer leur origine en recourant à l'ingénierie inverse. Les deepfakes constituent un cauchemar pour les entreprises comme Twitter et Facebook, qui se battent constamment pour empêcher les faux contenus d'apparaître sur leurs plateformes. Dans le cadre de ces travaux, Facebook a déclaré avoir collecté et catalogué 100 modèles différents de "deepfake" existants.

Les deepfakes sont des vidéos qui ont été modifiées numériquement d'une manière ou d'une autre par l'intelligence artificielle. Ils sont devenus de plus en plus réalistes ces dernières années, ce qui rend plus difficile pour les humains de déterminer ce qui est réel sur Internet, et notamment sur Facebook, et ce qui ne l'est pas. Les avancées technologiques des productions deepfake inquiètent les experts, qui préviennent que ces fausses images peuvent être utilisées par des acteurs malveillants pour diffuser des informations erronées.

Pièce jointe 600311

Des exemples de vidéos deepfake utilisant la ressemblance de l'ancien président Barack Obama, de la présidente de la Chambre des représentants Nancy Pelosi et de Tom Cruise sont devenus viraux et ont montré le développement de cette technologie au fil du temps.

Les chercheurs de Facebook, en partenariat avec l'Université d'État du Michiganque (MSU), affirment que leur logiciel d'IA peut être entraîné à déterminer si un média est un deepfake ou non à partir d'une image fixe ou d'une seule image vidéo. De plus, ils affirment que le logiciel peut également identifier l'IA qui a été utilisée pour créer le deepfake en premier lieu, quelle que soit la nouveauté de la technique.

« Notre méthode facilitera la détection et le traçage des deepfakes dans des contextes réels, où l'image deepfake elle-même est souvent la seule information avec laquelle les détecteurs doivent travailler », ont écrit mercredi les chercheurs scientifiques de Facebook Xi Yin et Tal Hassner.

Le nouveau logiciel de Facebook fait passer les images deepfake par son réseau. Son programme d'IA recherche les fissures laissées par le processus de fabrication utilisé pour modifier l'empreinte numérique d'une image.

« En photographie numérique, les empreintes numériques sont utilisées pour identifier l'appareil photo numérique utilisé pour produire une image », ont expliqué les chercheurs. Ces empreintes numériques sont également des modèles uniques « qui peuvent également être utilisés pour identifier le modèle génératif dont l'image est issue ».

Cette recherche intervient après que la MSU a réalisé l'année dernière qu'il est possible de déterminer quel modèle d'appareil photo a été utilisé pour prendre une photo spécifique – Tal Hassner, responsable de la recherche appliquée chez Facebook, a déclaré que le travail de Facebook avec la MSU s'appuie sur ce résultat.

Facebook se bat de façon continue contre les deepfakes, qui deviennent plus faciles à produire et plus difficiles à détecter

Les deepfakes sont une mauvaise nouvelle pour Facebook, qui se bat constamment pour empêcher les faux contenus d'apparaître sur sa plateforme principale, ainsi que sur Messenger, Instagram et WhatsApp. La société a interdit les deepfakes en janvier 2020, mais elle a du mal à les supprimer rapidement de sa plateforme. À l’époque, la société de médias sociaux a déclaré dans un blog que ces vidéos déforment la réalité et présentent un « défi important » pour l'industrie technologique.

Hassner a déclaré à CNBC que la détection des deepfakes est un « jeu du chat et de la souris », ajoutant qu'ils deviennent plus faciles à produire et plus difficiles à détecter. Jusqu'à présent, l'une des principales applications des deepfakes a été la pornographie, où le visage d'une personne est échangé avec le corps d'une autre, mais ils ont également été utilisés pour faire croire à des célébrités qu'elles font ou disent quelque chose qu'elles ne font pas. Aujourd'hui, il est possible pour n'importe qui de faire ses propres deepfakes en utilisant des applications gratuites comme FakeApp ou Faceswap.

L'experte en deepfake Nina Schick a déclaré lundi, lors de la conférence CogX AI, que la détection des deepfakes n'était pas facile. Elle a déclaré à CNBC que le travail de Facebook et de la MSU « semble être une assez grosse affaire en termes de détection », mais elle a souligné qu'il est important de savoir dans quelle mesure les modèles de détection des deepfakes fonctionnent réellement dans la vie réelle.

« C'est très bien de les tester sur un ensemble de données d'entraînement dans un environnement contrôlé », a-t-elle déclaré, ajoutant que « l'un des grands défis semble être qu'il existe des moyens faciles de tromper les modèles de détection – c'est-à-dire en compressant une image ou une vidéo ».

Tassner a admis qu'il pourrait être possible pour un mauvais acteur de contourner le détecteur. « Serait-il capable de déjouer notre système ? Je suppose que oui », a-t-il déclaré.

De manière générale, il existe deux types de deepfakes. Ceux qui sont entièrement générés par l'IA, comme les faux visages humains sur www.thispersondoesnotexist.com, et les autres qui utilisent des éléments d'IA pour manipuler des médias authentiques. Schick s'est demandé si l'outil de Facebook fonctionnerait sur ces derniers, ajoutant qu'« il ne peut jamais y avoir de détecteur unique ». Mais Xiaoming Liu, collaborateur de Facebook au Michigan State, a déclaré que le travail a « été évalué et validé sur les deux cas de deepfakes ». Liu a ajouté que la « performance pourrait être plus faible » dans les cas où la manipulation ne se produit que sur une très petite zone.

Chris Ume, l'artiste des médias synthétiques à l'origine des deepfakes de Tom Cruise, a déclaré lundi à CogX AI que la technologie des deepfakes évolue rapidement. « Il existe un grand nombre d'outils d'IA différents et pour Tom Cruise, par exemple, je combine un grand nombre d'outils différents pour obtenir la qualité que vous voyez sur ma chaîne », a-t-il déclaré.

Pièce jointe 600312

On ne sait pas encore comment, ni même si Facebook cherchera à appliquer le logiciel à ses plateformes. « Nous n'en sommes pas encore au stade de la discussion sur les produits », a déclaré Tassner », ajoutant qu'il existe plusieurs cas d'utilisation potentiels, notamment le repérage des attaques coordonnées de type deepfake.

« Si quelqu'un voulait en abuser (des modèles génératifs) et mener une attaque coordonnée en téléchargeant des choses provenant de différentes sources, nous pouvons en fait le repérer simplement en disant que tout cela provient du même moule que nous n'avons jamais vu auparavant, mais qui a ces propriétés spécifiques, des attributs spécifiques », a-t-il déclaré.

Facebook n’est pas le seul à travailler sur des solutions de détections des deepfakes. Microsoft a dévoilé en septembre dernier deux nouvelles technologies permettant de repérer les deepfakes, ou les médias synthétiques (des photos, des vidéos ou des fichiers audio manipulés). Un nouveau logiciel du géant de la technologie analyse les photos et les vidéos afin de déterminer si le matériel est susceptible d'avoir été créé artificiellement. Un second outil permet d'ajouter des hachages et des certificats numériques à un contenu permettant aux gens de savoir qu’un contenu est authentique et qu'il n'a pas été modifié.

Source : Facebook

Et vous ?

:fleche: Que pensez-vous du nouveau logiciel de Facebook ?
:fleche: Facebook vient-il de trouver la solution qu’il lui faut pour éradiquer de sa plateforme les vidéos et photos manipulées ?

Voir aussi :

:fleche: Microsoft dévoile des outils de détection de deepfakes, pour lutter contre les fausses nouvelles et d'autres formes de désinformation
:fleche: La Chine fait de la publication des deepfakes ou de fausses nouvelles en ligne un délit criminel, s'il n'est pas dûment révélé que le contenu en question a été créé avec la technologie IA ou VR
:fleche: Un système d'IA pourrait aider à contrer la propagation de la désinformation avec une précision de 96 %, grâce à un mécanisme qui détecte les comptes de médias sociaux à l'origine de ces campagnes
:fleche: Le Congrès américain va enquêter sur les deepfakes, alors qu'une fausse vidéo de Pelosi a été visionnée des millions de fois sur les médias sociaux