IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Intelligence artificielle Discussion :

Des chercheurs créent une IA qui rend facile la création de deepfakes à partir d'une seule image


Sujet :

Intelligence artificielle

  1. #1
    Chroniqueur Actualités
    Avatar de Michael Guilloux
    Homme Profil pro
    Data Consultant
    Inscrit en
    Juillet 2013
    Messages
    2 875
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 33
    Localisation : Côte d'Ivoire

    Informations professionnelles :
    Activité : Data Consultant
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Juillet 2013
    Messages : 2 875
    Points : 86 930
    Points
    86 930
    Billets dans le blog
    2
    Par défaut Des chercheurs créent une IA qui rend facile la création de deepfakes à partir d'une seule image
    Des chercheurs créent une IA qui rend facile la création de deepfakes à partir d'une seule image
    et les résultats sont dangereusement réalistes

    Faisant actuellement l'objet de recherches pour les rendre plus efficaces, les deepfakes - contraction de deep learning (apprentissage profond) et fake (truqué) - font allusion à des techniques de synthèse d'images basées sur l'intelligence artificielle. Si elles sont assez récentes, les techniques actuelles de deepfakes donnent déjà des résultats très impressionnants, ce qui inquiète les législateurs US.

    L'on craint qu'elles soient utilisées contre des personnes pour les représenter dans des situations auxquelles elles s'opposeraient, comme dans des vidéos pornographiques. Précisons en effet que c'était le but original de cette technologie : elle peut être utilisée dans l’industrie porno, où des visages peuvent être supposés à d’autres. Selon les législateurs US, les deepfakes représentent aussi un danger politique réel. Ils pensent par exemple que cette technique de synthèse d’images pourrait être utilisée dans le cadre de campagnes de désinformation plus larges dans l’optique d’influencer des élections en diffusant de fake news qui pourraient alors paraître plus crédibles. Autrement dit, les technologies de création de deepfakes pourraient être des armes dangereuses entre les mains des personnes malveillantes.

    Malgré les craintes que les deepfakes soient utilisés à des fins malveillantes, les recherches pour rendre cette technologie plus puissante se multiplient. La toute dernière est le résultat des travaux d'une équipe composée de chercheurs d'un centre d'intelligence artificielle de Samsung et de l'Institut des sciences et de la technologie de Skolkovo, tous deux basés à Moscou.

    Les chercheurs ont mis au point un moyen de créer des deepfakes ou « portraits vivants » à partir d'un très petit ensemble de données - une seule photographie suffit dans certains cas. Leur recherche intitulée « Few-Shot Adversarial Learning of Realistic Neural Talking Head Models » a été publiée lundi dans arXiv, l'archive de prépublications électroniques d'articles scientifiques.

    Ils utilisent des techniques de machine learning appelées few-shot ou one-shot learning, qui font allusion à un apprentissage à partir de quelques exemples ou d'un seul exemple. En effet, si l'intelligence artificielle est performante dans les applications utilisant beaucoup de données, il lui manque la capacité d'apprendre d'un nombre limité d'exemples. Autrement dit, les méthodes d'apprentissage profond actuelles souffrent d'une faible efficacité pour de petits échantillons, ce qui contraste nettement avec la perception humaine : même un enfant peut reconnaître une girafe par exemple après avoir visionné une seule photo. Le few/one-shot learning vise donc à doter les réseaux neuronaux profonds de cette capacité : atteindre un haut niveau d'apprentissage à partir de très petits ensembles de données.

    Dans leurs travaux, les chercheurs de Samsung ont donc pu utiliser une image pour créer un portrait animé convaincant. En augmentant le nombre de clichés (en passant à 8 ou 32 photos par exemple), le portait animé devient de plus en plus réaliste. Et cela fonctionne même sur le portait de Mona Lisa et d'autres photos uniques. Dans une vidéo publiée par l'un des chercheurs sur YouTube, les célèbres portraits d’Albert Einstein, Fyodor Dostoyevsky et Marilyn Monroe prennent vie comme si c’était des vidéos qui avaient été capturées en direct à partir de l’appareil photo de votre smartphone.


    Le fait que l'IA de Samsung ait besoin d'une seule photo pour générer un portrait vivant ou deepfake ne veut pas dire que l'algorithme ne repose que cette seule photo. Derrière, il y a un travail préliminaire de meta-learning qui a été réalisé. Les chercheurs ont en effet effectué de longs apprentissages sur une grande base de données d’un référentiel public de 7000 images de célébrités extraites de YouTube. Cela permet à l'algorithme d’identifier ce qu’ils appellent des caractéristiques « historiques » des visages : yeux, formes de la bouche, longueur et forme d’un pont nasal.

    À partir de là, le système est capable de générer une vidéo ou un portrait animé à partir de photos de personnes qui n'ont pas été prises en compte dans la phase de meta-learning. Concrètement, quand le système reçoit en entrée la photo d'une nouvelle personne, il initialise ses paramètres d’une manière spécifique à la personne, de sorte que la génération du deepfake ou portrait animé puisse se baser sur quelques images et se faire rapidement, « malgré la nécessité d’ajuster des dizaines de millions de paramètres ».

    Comme avec la plupart des deepfakes, il y a quelques défauts. La plupart des visages sont entourés d'artefacts visuels. Mais les résultats restent impressionnants étant donné que cette technique est à ses débuts.

    Cette recherche représente une avancée significative par rapport à ce que les autres deepfakes et algorithmes utilisant des réseaux adverses génératifs peuvent accomplir. Au lieu d'apprendre à l'algorithme comment coller un visage sur un autre à l'aide d'un catalogue d'expressions d'une personne, les chercheurs utilisent les traits de visage qui sont communs à la plupart des humains pour ensuite marionnettiser un nouveau visage.

    « Plusieurs travaux récents ont montré comment des images de tête humaine extrêmement réalistes peuvent être obtenues en formant des réseaux de neurones convolutifs pour les générer. Afin de créer un modèle personnalisé de la tête d'une personne qui est en train de parler, ces travaux nécessitent une formation sur un grand ensemble de données d'images de la même personne. Cependant, dans de nombreux scénarios pratiques, de tels modèles peuvent être formés à partir de quelques images d'une personne, voire d'une seule image », expliquent les chercheurs. « Nous montrons qu’une telle approche permet de créer des modèles très réalistes et personnalisés de nouveaux personnages et même des portraits. »


    Source : Publication de la recherche

    Et vous ?

    Que pensez-vous de cette recherche ? Exploit ou rien d'extraordinaire ? Quelles sont les éventuelles applications ?
    Les chercheurs en IA ne sont-ils pas en train de construire une arme dangereuse pour les individus et la société ?
    Les technologies de deepfake ne devraient-elles pas être interdites ? Dans ce cas, comment cela peut-il se faire ? Est-ce déjà trop tard ?

    Voir aussi :

    Un sénateur propose un projet de loi prohibant l'utilisation de la technologie deepfake, si elle venait à servir des buts frauduleux
    Une vidéo deepfake de Donald Trump diffusée sur une chaine de TV nationale ? L'employé responsable a été licencié
    Les législateurs US estiment que la technologie deepfake constitue une menace à la sécurité nationale et appellent à des contremesures
    Une nouvelle méthode inédite de deepfake a été mise au point par des chercheurs, permettant de transférer le style d'une personne à une autre
    Contribuez au club : Corrections, suggestions, critiques, ... : Contactez le service news et Rédigez des actualités

  2. #2
    Inactif  


    Homme Profil pro
    Doctorant sécurité informatique — Diplômé master Droit/Économie/Gestion
    Inscrit en
    Décembre 2011
    Messages
    9 012
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 30
    Localisation : France, Loire (Rhône Alpes)

    Informations professionnelles :
    Activité : Doctorant sécurité informatique — Diplômé master Droit/Économie/Gestion
    Secteur : Enseignement

    Informations forums :
    Inscription : Décembre 2011
    Messages : 9 012
    Points : 23 209
    Points
    23 209
    Par défaut
    Je crains qu'il n'y ai plus de choix, il faut que les caméras embarquent des éléments sécurisés pour signer les vidéos.

  3. #3
    Membre émérite
    Profil pro
    retraité
    Inscrit en
    Décembre 2010
    Messages
    804
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations professionnelles :
    Activité : retraité

    Informations forums :
    Inscription : Décembre 2010
    Messages : 804
    Points : 2 299
    Points
    2 299
    Par défaut
    C'est énorme comme truc.

    L'avantage est que l'on va pouvoir faire disparaître les acteurs bientôt et faire des films entièrement virtuels...

    Et comme disait Abraham Lincoln "il ne faut pas tout croire ce que l'ont lit ou voit sur internet"

  4. #4
    Membre expérimenté
    Homme Profil pro
    Développeur Web
    Inscrit en
    Septembre 2016
    Messages
    373
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Loire Atlantique (Pays de la Loire)

    Informations professionnelles :
    Activité : Développeur Web

    Informations forums :
    Inscription : Septembre 2016
    Messages : 373
    Points : 1 335
    Points
    1 335
    Par défaut
    L'industrie du porno vont avoir à s'inquiéter tandis que les faiseurs de fake news n'aurons plus grand chose à faire...

  5. #5
    Expert éminent
    Avatar de transgohan
    Homme Profil pro
    Développeur Temps réel Embarqué
    Inscrit en
    Janvier 2011
    Messages
    3 146
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Maine et Loire (Pays de la Loire)

    Informations professionnelles :
    Activité : Développeur Temps réel Embarqué

    Informations forums :
    Inscription : Janvier 2011
    Messages : 3 146
    Points : 9 386
    Points
    9 386
    Par défaut
    Citation Envoyé par archqt Voir le message
    Et comme disait Abraham Lincoln "il ne faut pas tout croire ce que l'ont lit ou voit sur internet"
    A qui le dis-tu.

    « Toujours se souvenir que la majorité des ennuis viennent de l'espace occupé entre la chaise et l'écran de l'ordinateur. »
    « Le watchdog aboie, les tests passent »

  6. #6
    Modérateur
    Avatar de grunk
    Homme Profil pro
    Lead dév - Architecte
    Inscrit en
    Août 2003
    Messages
    6 690
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 39
    Localisation : France, Côte d'Or (Bourgogne)

    Informations professionnelles :
    Activité : Lead dév - Architecte
    Secteur : Industrie

    Informations forums :
    Inscription : Août 2003
    Messages : 6 690
    Points : 20 211
    Points
    20 211
    Par défaut
    Citation Envoyé par Neckara Voir le message
    Je crains qu'il n'y ai plus de choix, il faut que les caméras embarquent des éléments sécurisés pour signer les vidéos.
    C'est déjà le cas dans pas mal d'équipement de vidéo surveillance , ou il est possible de signer des exports et d'ensuite vérifier qu'ils n'ont pas été altéré.
    Pry Framework php5 | N'oubliez pas de consulter les FAQ Java et les cours et tutoriels Java

  7. #7
    Membre extrêmement actif
    Avatar de Ryu2000
    Homme Profil pro
    Étudiant
    Inscrit en
    Décembre 2008
    Messages
    9 552
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 36
    Localisation : France, Hérault (Languedoc Roussillon)

    Informations professionnelles :
    Activité : Étudiant

    Informations forums :
    Inscription : Décembre 2008
    Messages : 9 552
    Points : 18 446
    Points
    18 446
    Par défaut
    Citation Envoyé par Michael Guilloux Voir le message
    Les technologies de deepfake ne devraient-elles pas être interdites ? Dans ce cas, comment cela peut-il se faire ? Est-ce déjà trop tard ?
    Ça ne changerait rien de l'interdire, les états continueront de l'utiliser en secret (il y a plein d'états qui développent des armes illégales).

    Là le risque c'est qu'un état créer une vidéo d'utilisation d'arme chimique, en Syrie par exemple, pour justifier une intervention militaire.
    Vous avez déjà vu le film Running Man ? Il est excellent ! Et il y a une histoire de gouvernement qui modifie des vidéos pour manipuler l'opinion publique.

    Ça rappelle cette histoire de 2011 :
    Al-Jazeera prépare de fausses images de la Syrie
    Pourtant, dès le début de la bataille de Tripoli, Al-Jazeera diffusa des images de propagande tournées dans ce studio pour faire croire que les rebelles étaient entrés dans la ville, alors que celle-ci était encore sous les bombardements massifs de l’OTAN. Il s’agissait de casser le moral des Libyens en leur faisant croire que tout était perdu. Par la suite, le chef du Conseil national de transition, Mustafa Abdul Jalil, a admis les faits et les a présentés comme une ruse de guerre.
    Keith Flint 1969 - 2019

  8. #8
    Expert éminent sénior Avatar de Uther
    Homme Profil pro
    Tourneur Fraiseur
    Inscrit en
    Avril 2002
    Messages
    4 552
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Pyrénées Orientales (Languedoc Roussillon)

    Informations professionnelles :
    Activité : Tourneur Fraiseur

    Informations forums :
    Inscription : Avril 2002
    Messages : 4 552
    Points : 15 463
    Points
    15 463
    Par défaut
    Citation Envoyé par archqt Voir le message
    Et comme disait Abraham Lincoln "il ne faut pas tout croire ce que l'ont lit ou voit sur internet"
    La majorité des citation attribuées à Albert Einstein ne sont pas de lui
    Albert Einstein

  9. #9
    Membre éclairé Avatar de laloune
    Homme Profil pro
    Consultant en Business Intelligence
    Inscrit en
    Mai 2005
    Messages
    484
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 41
    Localisation : Allemagne

    Informations professionnelles :
    Activité : Consultant en Business Intelligence

    Informations forums :
    Inscription : Mai 2005
    Messages : 484
    Points : 870
    Points
    870
    Par défaut
    Vous avez déjà vu le film Running Man ? Il est excellent !
    moui, amha je conseillerais plutôt le roman de Richard Bachmann (alias Stephen King)
    laloune
    Consultant B.I.
    Spécialité(s): Excel, SQL, Business Intelligence (Jedox Palo, Talend)

    "A problem worthy of attack proves its worth by fighting back." Piet Hein

  10. #10
    Membre chevronné
    Profil pro
    Inscrit en
    Décembre 2007
    Messages
    761
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : Décembre 2007
    Messages : 761
    Points : 2 101
    Points
    2 101
    Par défaut
    Citation Envoyé par Ryu2000 Voir le message
    Vous avez déjà vu le film Running Man ? Il est excellent !
    Al-Jazeera prépare de fausses images de la Syrie
    Oui il est tres bon, j'aime bien le reoir de temps en temps.

  11. #11
    Membre extrêmement actif
    Avatar de Ryu2000
    Homme Profil pro
    Étudiant
    Inscrit en
    Décembre 2008
    Messages
    9 552
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 36
    Localisation : France, Hérault (Languedoc Roussillon)

    Informations professionnelles :
    Activité : Étudiant

    Informations forums :
    Inscription : Décembre 2008
    Messages : 9 552
    Points : 18 446
    Points
    18 446
    Par défaut
    Citation Envoyé par laloune Voir le message
    je conseillerais plutôt le roman de Richard Bachmann (alias Stephen King)
    Un prof avait une liste de ses livres préférés pour un TP XSLT et il apparaissait dans la liste.

    J'aime bien la soundtrack du film, il y a une musique qui me fait penser à Final Fantasy 7 (vers 44 secondes) :


    Citation Envoyé par pierre-y Voir le message
    Oui il est tres bon
    Ce qui me stress c'est qu'il est tellement bien qu'un jour ils en feront un remake, comme ils ont fait avec Total Recall ou Robo Cop
    Keith Flint 1969 - 2019

  12. #12
    Membre extrêmement actif
    Profil pro
    Développeur
    Inscrit en
    Mars 2012
    Messages
    1 969
    Détails du profil
    Informations personnelles :
    Localisation : Belgique

    Informations professionnelles :
    Activité : Développeur
    Secteur : Communication - Médias

    Informations forums :
    Inscription : Mars 2012
    Messages : 1 969
    Points : 3 375
    Points
    3 375
    Par défaut
    La tête de Mona Lisa est bien différente du portrait.
    Si la réponse vous a aidé, pensez à cliquer sur +1

Discussions similaires

  1. Réponses: 2
    Dernier message: 30/01/2019, 17h03
  2. Des chercheurs de l’Illinois créent une microbatterie révolutionnaire
    Par Cedric Chevalier dans le forum Actualités
    Réponses: 12
    Dernier message: 27/04/2013, 19h21
  3. Fusionner deux image Tiff dans une seul image Tiff
    Par joulie dans le forum Graphisme
    Réponses: 5
    Dernier message: 21/05/2009, 21h07
  4. affiche une seule image à la fois
    Par faamugol dans le forum Général JavaScript
    Réponses: 3
    Dernier message: 23/02/2009, 12h02

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo