Ce Deepfake de Zuckerberg teste les règles de suppression de vidéos de Facebook
Alors qu’il avait déclaré qu’une telle vidéo resterait en ligne

« Nous avons des normes communautaires qui décrivent ce qui est permis et ce qui ne l'est pas sur Facebook. Ils couvrent des sujets comme l'intimidation, le harcèlement et le discours haineux, et nous retirons tout contenu qui va à l'encontre de nos normes dès que nous en prenons connaissance », peut-on lire dans un article publié en avril dernier sur la page Newroom par Guy Rosen, vice-président de l'intégrité, et Tessa Lyons, responsable de l'intégrité des fils d'actualité chez Facebook. Mais au lieu de supprimer une fausse vidéo de la présidente de la Chambre des représentants des États-Unis, Nancy Pelosi, devenue virale sur Facebook, le géant des réseaux sociaux a plutôt choisi de réduire la priorité de la vidéo, de sorte qu'elle apparaisse moins souvent dans les flux des utilisateurs.

Une nouvelle vidéo truquée de Mark Zuckerberg, PDG de Facebook, a été postée sur Instagram, qui appartient Facebook, et un porte-parole de Facebook a déclaré à Motherboard que « Nous traiterons ce contenu de la même manière que nous traitons toutes les informations erronées sur Instagram ». « Si les vérificateurs de faits tiers le marquent comme faux, nous le filtrerons à partir des surfaces de recommandation d'Instagram comme les pages Explore et hashtag », a-t-il ajouté. Facebook va-t-il supprimer le Zuckerberg deepfake ?


En effet, deux artistes, Bill Posters et Daniel Howe en partenariat avec Canny, une société de publicité, ont créé une vidéo deepfake du fondateur de Facebook montrant Zuckerberg dans un bureau et donnant un discours sur le pouvoir de son entreprise, et l'ont mis sur Instagram. Bien évidemment, il n’a pas tenu ce discours en réalité, mais la vidéo encadrée avec des chyrons de diffusion qui disent « Nous augmentons la transparence sur les publicités » donne l'impression qu'elle fait partie d'un segment de diffusion d’actualités. C'est un deepfake qui fait partie d’un projet artistique qui cherche à tester les politiques de Facebook sur les fausses nouvelles quand il s'agit de vidéos truquées.

Selon Motherboard, ce deepfake de Zuckerberg est l'une des fausses vidéos réalisées par la société Canny en collaboration avec les deux artistes, dont celle de Kim Kardashian et Donald Trump, dans le cadre de Spectre, une exposition qui a eu lieu dans le cadre du Sheffield Doc Fest au Royaume-Uni. Le deepfake a été réalisé à partir d’une vidéo originale et réelle tirée d'une allocution prononcée par Zuckerberg en septembre 2017 au sujet de l'ingérence électorale russe sur Facebook, d’après Motherboard.

Nom : Bp02.png
Affichages : 1769
Taille : 286,0 Ko

« Imaginez ceci une seconde : un homme, avec le contrôle total de milliards de données volées, de tous leurs secrets, de leur vie, de leur avenir », a dit Zuckerberg dans la vidéo. Cette phrase a été montée de toutes pièces par les réalisateurs du deepfake même si c’est ce à quoi les utilisateurs du plus grand des réseaux sociaux sont exposés. Dans la vidéo, Zuckerberg a ajouté : « Je dois tout à Spectre. Spectre m'a montré que celui qui contrôle les données, contrôle le futur ». Les réalisateurs de la vidéo l’ont posté sur Instagram dans un message dont la légende dit que le deepfake a été créé à l'aide de la technologie de remplacement du dialogue vidéo (VDR) de CannyAI.

La vidéo en question peut être visionnée ici sur Instagram. Elle a été publiée le 7 juin 2019 par Bill Posters :

Nom : bp03.png
Affichages : 1715
Taille : 213,4 Ko

La vidéo a été également reprise par l’article de Motherboard publié mardi et partagée aussi sur Twitter par Joseph Cox, ce qui l’a rendue plus virale.
Mais il se peut que la fausse vidéo du Patron de Facebook ne fasse pas long feu sur la plateforme numérique, car Instagram compte la traiter comme il traite « toutes les informations erronées sur Instagram ». « Si les vérificateurs de faits tiers le marquent comme faux, nous le filtrerons à partir des surfaces de recommandation d'Instagram comme les pages Explore et hashtag », a déclaré un porte-parole d'Instagram à Motherboard. Alors que la fausse vidéo de Pelosi avait juste été dépriorisée.

En effet, suite à la diffusion virale sur Facebook d'une vidéo manipulée de la conférencière Nancy Pelosi, Facebook a été forcé de prendre position sur la question de savoir si des images fausses ou modifiées sont autorisées à rester sur le site. Au lieu de supprimer la vidéo, l'entreprise a choisi de la déprioriser, de sorte qu'elle apparaisse moins souvent dans les flux des utilisateurs, et a placé la vidéo à côté d'informations de vérification de faits provenant de tiers. Le directeur des politiques publiques de Facebook, Neil Potts, avait même déclaré en ce moment-là que si quelqu'un publiait une vidéo manipulée de Zuckerberg comme celle de Pelosi, elle resterait en place.

Maintenant que c’est chose faite, nous verrons que la position prise par Facebook suite à la diffusion virale de la fausse vidéo de Pelosi tiendra la route. Mais, libre à Instagram de qualifier cette dernière vidéo de quelque chose que la politique du groupe n’admet pas (intimidation, harcèlement et discours haineux) afin de la supprimer vite fait ou de la garder sur sa plateforme pour respecter sa position. La vidéo ne fait-elle pas référence au pouvoir du réseau social.

Après que les vidéos trafiquées de Pelosi soient devenues virales sur Facebook et que l’entreprise a refusé de la supprimer, la présidente de la Chambre des représentants a déclaré à KQED News ce qui suit le mercredi :

« Nous avons toujours dit, pauvre Facebook, qu'ils ont été exploités sans le vouloir par les Russes. Je pense que c'est sciemment, parce qu'en ce moment, ils mettent en place quelque chose qu'ils savent être faux. Je pense que c'est mal ». « [Facebook] ment au public... Je pense qu'ils ont prouvé, en ne retirant pas quelque chose qu'ils savent être faux, qu'ils étaient des catalyseurs volontaires de l'ingérence russe dans notre élection », a-t-elle ajouté, d’après le rapport d’un site Web.

La technologie de Deepfake de l’IA commence vraiment à s'imposer comme un nouvel outil majeur dans le domaine des effets visuels et sonores. Actuellement, les outils n'en sont encore qu'à leurs balbutiements, mais ils modifient la façon dont ces effets peuvent être abordés. Et ces derniers deepfakes font font partie d'un projet artistique dans le cadre de Spectre, un événement artistique:

Nom : Bp04.png
Affichages : 1650
Taille : 69,1 Ko

Selon Motherboard, les fondateurs de Canny, Omer Ben-Ami et Jonathan Heimann, se sont inspirés des algorithmes développés par des chercheurs de l'Université de Washington, qui ont transformé des clips audio de personnes en train de parler en vidéos réalistes de personnes faites pour avoir l'air de prononcer ces mots. Ceci a été démontré à l’époque par les chercheurs de cette Université en utilisant le visage du l’ex-président Barack Obama. Les réalisateurs du Zuckerberg deepfake se sont également inspirés du programme Face2Face de Stanford, qui permettait la reconstitution faciale en temps réel.

Pour créer les fausses vidéos, le fondateur de Canny a dit à Motherboard qu’ils utilisaient un algorithme d'IA propriétaire, entraîné sur des scènes de 20 à 45 secondes du visage cible pendant 12-24 heures. Selon Motherboard, ce n'est pas nouveau, car des deepfakes ont déjà été faits à partir d'aussi peu qu'une image d'un visage. Pour le Zuckerberg deepfake, les ingénieurs de Canny ont arbitrairement découpé un segment de 21 secondes de la vidéo originale de sept minutes, formé l'algorithme de ce clip ainsi que des vidéos de Zuckerberg en train de parler, puis reconstruit les images de la vidéo pour correspondre aux mouvements de son visage.

Le résultat est assez réaliste, même si l'imitation de la voix n'est pas très bonne. Pour le fondateur de Canny, l’exposition de cette œuvre d’art est à la fois une occasion d'éduquer le public sur les utilisations actuelles de l'IA, mais aussi d'imaginer l’évolution de cette technologie. Ben-Ami a déclaré :

« Le vrai potentiel que nous voyons pour cette technologie réside dans la capacité de créer un modèle photoréaliste d'un être humain ». « Pour nous, c'est l'étape suivante de notre évolution numérique où chacun d'entre nous pourrait éventuellement avoir une copie numérique, un humain universel éternel. Cela changera notre façon de partager et de raconter des histoires, de nous souvenir de nos proches et de créer du contenu », a-t-il ajouté.

Mais cette vision future du deepfake inquiète au plus haut niveau les responsables des gouvernements dans le monde. Les autorités américaines craignent que les élections présidentielles 2020 soient attaquées par les agents étrangers en utilisant les deepfakes qui sont maintenant faciles à créés. Lors d’une entrevue à Washington avec une chaine de télévision américaine la semaine dernière, M. Schiff, président du House Intelligence Committee du Congrès, a déclaré qu'il craignait que la Russie ne s'engage dans une « grave escalade » de sa campagne de désinformation ciblant les États-Unis pendant que les élections présidentielles américaines de 2020 approchent. « Et l'escalade la plus grave pourrait être l'introduction d'un deepfake – une vidéo de l'un des candidats disant quelque chose qu'il n'a jamais dit », a-t-il dit. Pour cela, le Congrès américain va enquêter sur cette technologie.

Ne serait-il pas mieux que Facebook arrête dès maintenant une position unique et claire vis-à-vis de ce qui doit être supprimé afin d’éviter une nouvelle ingérence étrangère dans des élections aux USA et ailleurs ?

Source : L’artiste Bill Posters en partenariat avec l’agence Canny

Et vous ?

Qu’en pensez-vous ?
Pense z-vous qu’Instagram va supprimer la fausse vidéo de Zuckrberg ?
Que pensez-vous des avancées importantes faites par la technologie deepfake ?

Lire aussi

Les législateurs US estiment que la technologie deepfake constitue une menace à la sécurité nationale, et appellent à des contremesures
Le Congrès américain va enquêter sur les deepfakes, alors qu'une fausse vidéo de Pelosi a été visionnée des millions de fois sur les médias sociaux
Une nouvelle méthode inédite de deepfake a été mise au point par des chercheurs, permettant de transférer le style d'une personne à une autre
Européennes : des hackers russes propageraient des fake news pour favoriser l'extrême droite, selon The New York Times
Deepfake : des chercheurs présentent un logiciel qui permet d'éditer le discours d'une vidéo, et faire dire au sujet ce que vous voulez