Des législateurs US estiment que la technologie deepfake constitue une menace à la sécurité nationale
Des législateurs US estiment que la technologie deepfake constitue une menace à la sécurité nationale,
et appellent à des contremesures
Un deepfake - la contraction des termes anglais deep learning (apprentissage profond) et fake (feint, truqué) - est une technique de synthèse d'images basée sur l'intelligence artificielle. Les méthodes actuelles utilisées deviennent incroyablement sophistiquées et permettent déjà de créer des fausses vidéos difficilement identifiables en tant que telles. Le deepfake est utilisé pour combiner et superposer des images et des vidéos existantes afin de les manipuler à l’aide de l’apprentissage automatique. La technologie est en développement et des chercheurs continuent d’améliorer les méthodes qui contribueront certainement à révolutionner certains secteurs d’activité mais qui ne manqueront, peut-être, pas de se retrouver, comme une arme, entre les mains des personnes malveillantes.
Sans surprise, l’une des premières utilisations de deepfake a été vu dans l’industrie porno, où des visages ont été superposé à d’autres.
Des chercheurs ont créé des algorithmes qui sont capables de récupérer le contenu d'une vidéo et de l'appliquer à une autre et ce sans altérer le style de la vidéo cible. La vidéo, ci-dessous, offre une illustration des plus explicites. Cela commence avec le présentateur américain John Oliver dont les expressions faciales et les mouvements de bouche sont littéralement calqués de façon transparente sur le visage de son homologue Stephen Colbert. On découvre que le système peut s'appliquer à des fleurs ou des paysages. La démonstration se conclut avec le clonage du style de Martin Luther King appliqué sur le visage de Barack Obama, lequel va ensuite se glisser dans la peau de Donald Trump.
Mais à présent, les législateurs pensent que cette technique de synthèse d’images pourrait être utilisées dans le cadre de campagnes de désinformation plus larges par exemple dans l’optique d’influencer des élections en diffusant des fake news qui pourraient alors paraître plus crédibles.
« Les deepfake pourraient devenir un puissant outil pour les puissances hostiles cherchant à propager des informations erronées », a déclaré le représentant du parti démocrate sur le renseignement, Adam Schiff, dans une lettre adressée à Dan Coats, directeur du renseignement national.
« En brouillant la frontière entre les faits et la fiction, la technologie deepfake pourrait miner la confiance du public dans les images et les vidéos enregistrées en tant que représentations objectives de la réalité,. Alors que les technologies deepfake deviennent plus avancées et plus accessibles, cela pourrait constituer une menace pour le discours public et la sécurité nationale des Etats-Unis, avec des implications larges et inquiétantes pour les campagnes de mesures offensives actives contre les Etats-Unis », indique la lettre, qui a été co-signée par les représentants Stephanie Murphy (D-FL) et Carlos Curbelo (R-FL).
Schiff, Murphy et Curbelo veulent que le directeur du renseignement national, qui supervise la communauté du renseignement aux États-Unis, rende compte de son évaluation de la façon dont la technologie deepfake pourrait nuire aux intérêts de la sécurité nationale et des mesures de protection contre les influences étrangères. .
Le bureau du DNI a été invité à faire rapport au Congrès à la mi-décembre.
Source : lettre des représentants
Et vous ?
Partagez-vous les appréhensions des législateurs ?
Voir aussi :
Répondre avec citation
Partager