1 pièce(s) jointe(s)
Une application d’IA permet de remplacer en quelques clics le visage d’actrices dans les films pornographiques
Une nouvelle application d’IA permet de remplacer en quelques clics le visage d’actrices dans les films pornographiques
par celui d’une femme quelconque à partir d’une simple photo du visage
Après l’épisode de DeepNude, l’application utilisant l’intelligence artificielle (IA) pour supprimer les vêtements de femmes dans les photos en les faisant paraître nues, des personnes ont trouvé le moyen de pousser la hardiesse encore plus loin en mettant en ligne un site qui permet d’échanger le visage d’une femme avec celle d’une autre figurant dans une vidéo pornographique. Si pour l’application DeepNude, le rejet par le public a été sans équivoque, l’on se demande comment l’auteur de cet outil compte gérer les dérives éventuelles qui pourraient survenir par l’abus de cet outil.
Il est révolu le temps où il fallait disposer de compétences avancées pour réaliser un montage qui permet d’échanger numériquement le visage d’un acteur par un autre dans une scène de vidéo. Avec la technologie deepfake, technique de synthèse multimédia permettant de générer des vidéos truquées en utilisant l’intelligence artificielle, il est maintenant donné à n’importe quel utilisateur sans expertise aucune dans des domaines pointus du montage vidéo et d’effets spéciaux visuels de réaliser des trucages aussi poussés que réalistes dans les vidéos. Si l’avancée technologie facilite à bien des égards la productivité, elle a aussi son revers de la médaille. Sur un site en ligne, il est possible en cliquant sur un simple bouton de remplacer le visage d’une actrice pornographique par celle d’une autre femme, ce qui pourrait faire croire que le visage inséré est l’actrice réelle qui a réalisé la vidéo.
Comment effectuer l’échange de visages à partir du site Web abritant l'outil de génération des vidéos deepfakes pornographiques ?
Pour ce faire, il suffit de téléverser la photo d’un visage et sélectionner la vidéo dans laquelle on souhaite insérer la photo. Dans la majorité des vidéos disponibles, il s’agit de scènes mettant en action des femmes. Seule une poignée de vidéos comportent également des scènes d’hommes, notamment des vidéos pornographiques pour les homosexuels. Après avoir sélectionné la vidéo, vous pouvez visionner un aperçu de quelques secondes de la vidéo comportant l’échange de visages. Pour télécharger la version complète de la vidéo deepfake, il va falloir passer à la caisse. Le site présente l’outil comme un moyen d’explorer les fantasmes sexuels.
Après avoir suivi tout le processus d’échange de visages, une analyse sommaire de la vidéo permet de déclarer que l’on est encore loin du résultat parfait. De nombreux échanges de visages sont évidemment faux avec les visages scintillant et se déformant lorsqu’ils tournent sous différents angles. Mais pour un observateur occasionnel, certains détails sont assez subtils pour ne pas être remarqués, et la trajectoire des deepfakes a déjà montré à quelle vitesse ils peuvent devenir indiscernables de la réalité.
En situation de consentement, remplacer le visage d’une actrice de film pour adultes par un autre de manière consentante n’a rien de problématique. Ces techniques de deepfake pourraient être utilisées pour apporter des corrections ou même faire gagner du temps si une scène devait être refaite. Sur le site qui a mis en ligne cet outil, il est recommandé aux utilisateurs de téléverser leur propre photo.
Quelques inquiétudes et témoignages liés à l’abus des outils permettant de générer des vidéos deepfakes pornographiques sans consentement
Toutefois, la mauvaise foi étant la chose mieux partagée au monde, il n’y a aucun doute à se faire que des petits malins pourraient utiliser cet outil mis en ligne pour faire de mauvaises blagues à de tierces personnes. Encore pis, des personnes pourraient utiliser ce site pour créer des vidéos pornographiques de jeunes filles ou de femmes afin de les harceler ou leur faire du chantage. Dans de tels cas, les conséquences peuvent être aussi bouleversantes que le « revenge porn », de véritables vidéos intimes filmées ou diffusées sans consentement.
Et même s’il est possible de souligner les incohérences qui peuvent receler ces vidéos deepfakes pornographiques, avoir sa tête dans une vidéo qui circule sur la toile est suffisant pour anéantir la vie d’une personne. En outre, les utilisateurs ne savent pas tous qu’une telle technologie existe et parfois n’ont pas l’œil avisé pour discerner le faux du vrai. En Angleterre, Helen Mort, une écrivaine qui vit à Sheffield, a trouvé des images deepfake d’elle-même sur un site porno il y a deux ans. Ils étaient sur Internet depuis 2017. Après avoir découvert ces images, la première question qu’elle s’est posée est « qu’ai-je fait pour mériter cela ? »
Helen Mort, écrivaine victime d’images deepfakes pornographiques
« Ce genre d’abus — où les gens déforment votre identité, votre nom, votre réputation et les modifient de manière si violente — vous brise profondément », déclare Noelle Martin, une militante australienne qui a été la cible d’une campagne pornographique deepfake. Et les répercussions peuvent rester avec les victimes à vie. Les images et les vidéos sont difficiles à supprimer d’Internet et de nouveaux contenus peuvent être créés à tout moment. « Cela affecte vos relations interpersonnelles. Cela vous affecte pour obtenir un emploi. Chaque entretien d’embauche que vous passez, cela pourrait être évoqué », affirme Martin. « À ce jour, je n’ai jamais réussi à faire retirer les images. Pour toujours, ce sera là-bas. Peu importe ce que je fais ». Selon Sophie Mortimer, qui gère le service d’assistance britannique Revenge Porn Helpline, une enseignante britannique a perdu son emploi après que de fausses images pornographiques d’elle aient été diffusées sur les réseaux sociaux et portées à l’attention de son école.
Bien que les victimes soient majoritairement les femmes, le fait qu’il est possible de créer des vidéos gays deepfakes n’épargne pas non plus les hommes. Dans 11 pays du monde, avoir des relations sexuelles entre hommes pourrait être puni par la peine de mort. Une personne malveillante qui souhaiterait vous faire du mal pourrait fusionner votre visage avec celui de l’acteur réel dans une vidéo gay et la publier en ligne. Sans discernement, une décision de justice pourrait signer votre arrêt de mort. Mais bon, dans pareil cas, si le juge ne veut pas entendre raison de votre innocence, certains suggèrent pour se défendre de produire une autre vidéo gay deepfake en intégrant le visage du juge et celui l’avocat de la partie adverse. Cela pourra au moins les convaincre. Si les scénarios des plus cyniques aux plus délirants peuvent être imaginés, cela vient toutefois rappeler le danger qui peut se cacher derrière ces technologies deepfakes.
Comment devrait-on traiter ce type d’outil deepfake sur la toile ? L’autoriser, le baliser ou le censurer ?
Après que le site ait été contacté à maintes reprises par différents acteurs sur la toile afin de décrier les dégâts qu’un tel outil disponible publiquement pourrait occasionner, le site a publié un avis sur sa page d’accueil indiquant qu’il n’était plus disponible pour les nouveaux utilisateurs. Par contre, les utilisateurs existants peuvent continuer à accéder à leurs vidéos en utilisant leurs identifiants d’accès.
Source : BBC
Et vous ?
:fleche: Quels commentaires faites-vous de la mise à la disposition du public des outils de génération de deepfakes à partir des vidéos pornographiques ?
:fleche: Selon vous, devrait-on imposer des limites pour ces outils deepfakes lorsqu’ils sont utilisés dans certains cas sur la toile ?
:fleche: Devrait-on censurer ces outils deepfakes utilisés pour générer des vidéos pornographiques ? Ou ont-ils également le droit d’exister sur la toile ?
Voir aussi
:fleche: GitHub supprime de sa plateforme les versions open source de DeepNude, l’application qui crée des images de femmes nues en quelques secondes
:fleche: L’IA peut désormais détecter les deepfakes en recherchant des mouvements faciaux étranges, selon une étude
:fleche: Deepfake : des chercheurs présentent un logiciel qui permet d’éditer le discours d’une vidéo, et faire dire au sujet ce que vous voulez
:fleche: À l’approche de la présidentielle américaine, Facebook interdit la plupart des deepfake de sa plateforme, mais les politiciens trouvent cette mesure très légère face à la désinformation en ligne
:fleche: Avatarify, un deepfake qui échange en temps réel votre visage avec celui d’une célébrité, pendant les appels vidéo sur Zoom et Skype
Remplacement d'image d'actrice porno par l'IA
je pense qu'il faut sanction les concepteurs de ces logiciels.
Pour le meilleur et pour le pire
La technologie, capable du meilleur... et du pire.
Ou plutôt : l'esprit humain, capable du meilleur et du pire.
Il faut un cerveau bien malade pour imaginer et réaliser ces choses-là.
Bien loin du bonheur...
:(
