1 pièce(s) jointe(s)
Google lance Assembler, une plateforme qui permet de détecter les deepfakes
Google lance Assembler, une plateforme qui décèle les images truquées,
afin d'aider les vérificateurs de faits et les journalistes à détecter les deepfakes
Le 4 février, Jigsaw, anciennement appelé Google Ideas, un incubateur de la filiale d'Alphabet, a annoncé le lancement d'Assembler. C'est une plateforme expérimentale qui détecte les deepfakes, des images et des vidéos créées ou modifiées grâce à l'intelligence artificielle. Développé par Jigsaw, Google Research et des partenaires universitaires, cet outil est conçu pour les journalistes et les factcheckers ou vérificateurs de faits.
« Le travail de Jigsaw exige de prévoir les menaces les plus urgentes auxquelles Internet est confronté. Partout où nous nous sommes rendus ces dernières années - de la Macédonie à l'Ukraine orientale, des Philippines au Kenya et aux États-Unis - nous avons observé une évolution dans la manière dont la désinformation était utilisée pour manipuler les élections, faire la guerre et perturber la société civile », explique Jared Cohen, PDG et fondateur de l'incubateur.
Si le développement de cet outil a débuté en 2016, il est maintenant en phase expérimentale, dans le but de tester comment il peut aider les journalistes et les vérificateurs de faits à identifier et analyser des contenus multimédias manipulés.
« Nous l'avons construit pour faire progresser le domaine de la science et pour fournir aux journalistes et aux vérificateurs des faits des signaux forts qui, combinés à leur expertise, peuvent les aider à juger si et où une image a été manipulée. Avec l'aide d'un petit nombre de fournisseurs de nouvelles mondiales et d'organisations de vérification des faits, dont l'Agence France-Presse, Animal Politico, Code for Africa, Les Décodeurs du Monde et Rappler, nous testons les performances d'Assembler dans de véritables salles de rédaction et les mettons à jour en fonction de sur sa rétroaction utilitaire et testeur », ajoute Jared Cohen.
Concrètement, Assembler utilise des modèles de détection fournis par des experts de l'université de Californie à Berkeley, l'université du Maryland et de l'université Federico II de Naples, pour montrer la probabilité de manipulation sur une image, comme les modifications de la luminosité ou les copier-coller. Les concepteurs ont également mis au point deux nouveaux détecteurs qui sont testés sur la plateforme : le StyleGAN et un modèle d'ensemble. Si le premier traite les deepfakes grâce à la technologie des réseaux génératifs adverses (GANs), le second, quant à lui, analyse en même temps plusieurs types de modifications faites sur une image. Et « les résultats sont, en moyenne, plus précis que n'importe quel détecteur individuel », assure le PDG de Jigsaw.
La lutte contre les deepfakes est particulièrement complexe, du fait qu'ils évoluent avec le temps et qu'ils sont faits à partir de techniques de plus en plus sophistiquées. À part Google, d'autres sociétés mobilisent également des scientifiques pour mettre au point des outils identiques à Assembler. Microsoft Research et l'Université de Pékin ont par exemple conçu deux outils : FaceShifter, qui transforme un visage et Face X-Ray, qui décèle les deepfakes. De son côté, un laboratoire de l'École Polytechnique Fédérale de Lausanne (EPFL), travaille depuis 2017 avec Quantum Integrity, une jeune pousse du campus, sur la création d'un logiciel de détection d'images truquées.
Par ailleurs, à l'approche de la présidentielle, Twitter et Facebook ont déjà pris des dispositions et ont chacun annoncé qu'ils allaient supprimer ces contenus problématiques de leurs plateformes respectives. De plus, le réseau social fondé par Mark Zuckerberg a consacré plus de 10 millions de dollars dans le Deepfake Detection Challenge, un concours qui a pour but de faire avancer la recherche dans la lutte contre les contenus modifiés.
Sources : Jigsaw (1 et 2)
Et vous ?
:fleche: Que pensez-vous de cet outil ?
Voir aussi :
:fleche: « L'IA ne peut pas nous protéger contre les deepfakes », selon un rapport de Data & Society, qui préconise une solution tenant compte à la fois de l'histoire et des processus sociaux
:fleche: Deepfake : les vidéos manipulées et parfaitement réelles, pourront être créées par n'importe qui d'ici 6 à 12 mois, d'après Hao Li, un pionnier de cette technologie
:fleche: Twitter va commencer à étiqueter les deepfakes ainsi que d'autres contenus trompeurs avant l'élection présidentielle de 2020 aux USA, et supprimera ceux susceptibles de causer de graves dommages
:fleche: Facebook lance le Deepfake Detection Challenge, un concours avec plus de 10 millions de dollars à la clé, visant à faire avancer la recherche en matière de lutte contre les contenus manipulés
:fleche: À l'approche de la présidentielle américaine, Facebook interdit la plupart des deepfake de sa plateforme, mais les politiciens trouvent cette mesure très légère face à la désinformation en ligne
