IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Intelligence artificielle Discussion :

Les humains trouvent les visages générés par l'IA plus digne de confiance que les vrais visages


Sujet :

Intelligence artificielle

  1. #1
    Chroniqueuse Actualités

    Femme Profil pro
    Rédacteur Web
    Inscrit en
    mars 2020
    Messages
    576
    Détails du profil
    Informations personnelles :
    Sexe : Femme
    Localisation : Cameroun

    Informations professionnelles :
    Activité : Rédacteur Web

    Informations forums :
    Inscription : mars 2020
    Messages : 576
    Points : 10 318
    Points
    10 318
    Par défaut Les humains trouvent les visages générés par l'IA plus digne de confiance que les vrais visages
    Les humains trouvent les visages générés par l'IA plus digne de confiance que les vrais visages,
    ils peinent à distinguer les images de visages créés par des machines de celles de véritables humains

    L'adoption rapide de l'intelligence artificielle a des répercussions majeures sur notre vie privée. Une nouvelle étude menée par deux chercheurs montre qu'il est de plus en plus difficile pour les gens de faire la distinction entre un visage créé à l'aide de l'IA et un vrai visage. De manière surprenante, les chercheurs ont déclaré que leur étude a montré que les fausses images sont plus dignes de confiance que les vraies. Les chercheurs appellent maintenant à davantage de mesures de protection pour empêcher les "deep fake" de s'immiscer dans nos vies. Les chercheurs ont mis en garde contre les graves conséquences de cette pratique, affirmant que des textes, des sons, des images et des vidéos synthétisés par l'IA ont déjà été utilisés à des fins de fraude, de propagande et de "revenge porn".

    Nom : Screenshot_2022-02-16 Humans Find AI-Generated Faces More Trustworthy Than the Real Thing Viewer.png
Affichages : 9568
Taille : 540,3 Ko

    Les faux visages créés par l'intelligence artificielle IA semblent plus dignes de confiance que les visages de personnes réelles, révèle une nouvelle étude inquiétante. Les chercheurs ont mené plusieurs expériences pour voir si les faux visages créés par l’apprentissage automatique étaient capables de tromper les humains. Les "deepfakes" ont déjà été utilisés pour la "revenge porn", la fraude et la propagande, ce qui a conduit à des erreurs d'identité et à la diffusion de fausses nouvelles. La nouvelle étude a été menée par Sophie J. Nightingale de l'université de Lancaster et Hany Farid de l'université de Californie, Berkeley.

    « Notre évaluation du réalisme photographique des visages synthétisés par l'IA indique que les moteurs de synthèse ont franchi la "vallée de la peur" et sont capables de créer des visages impossibles à distinguer - et plus dignes de confiance - que les visages réels », affirment leschercheurs. La conséquence la plus pernicieuse est peut-être que, dans un monde numérique où toute image ou vidéo peut être truquée, l'authenticité de tout enregistrement gênant ou importun peut être remise en question.

    Pour l'étude, les experts ont utilisé de faux visages créés avec StyleGAN2, un "réseau génératif contradictoire" de la société technologique américaine Nvidia. Les réseaux génératifs adverses opposent deux algorithmes dans le but de créer des représentations convaincantes du monde réel. Les visages synthétiques de cette étude ont été développés dans le cadre d'interactions en va-et-vient entre deux réseaux neuronaux, exemples d'un type connu sous le nom de réseaux adversatifs génératifs. L'un des réseaux, appelé générateur, a produit une série évolutive de visages synthétiques, à la manière d'un étudiant travaillant progressivement sur des brouillons. L'autre réseau, appelé discriminateur, s'est entraîné sur des images réelles et a ensuite évalué le résultat généré en le comparant à des données sur des visages réels.

    Le générateur a commencé l'exercice avec des pixels aléatoires. Grâce aux commentaires du discriminateur, il a progressivement produit des visages humains de plus en plus réalistes. En fin de compte, le discriminateur a été incapable de distinguer un vrai visage d'un faux. Les réseaux se sont entraînés sur une série d'images réelles représentant des visages de Noirs, d'Asiatiques de l'Est, d'Asiatiques du Sud et de Blancs, hommes et femmes, contrairement à l'utilisation plus courante de visages d'hommes blancs dans les recherches précédentes.

    Lors de la première expérience, 315 participants ont classé 128 visages tirés d'un ensemble de 800 comme étant réels ou synthétiques. Leur taux d'exactitude était de 48 %, proche d'une performance aléatoire de 50 %, ont-ils constaté.

    Dans une deuxième expérience, 219 nouveaux participants ont été formés et ont reçu des informations sur la façon de classer les visages. Ils ont classé 128 visages tirés du même ensemble de 800 visages que lors de la première expérience ; mais malgré leur entraînement, le taux de précision n'a atteint que 59 %.

    Les chercheurs ont donc décidé de déterminer si la perception de la fiabilité pouvait aider les gens à identifier des images artificielles dans le cadre d'une troisième expérience. « Les visages constituent une riche source d'informations, et une exposition de quelques millisecondes suffit pour faire des déductions implicites sur des caractéristiques individuelles telles que la fiabilité », indiquent les auteurs. La troisième expérience a demandé à 223 participants d'évaluer la fiabilité de 128 visages pris dans le même ensemble de 800 visages sur une échelle de 1 (très indigne de confiance) à 7 (très digne de confiance). La note moyenne attribuée aux visages synthétiques était 7,7 % plus fiable que celle attribuée aux visages réels, ce qui est « statistiquement significatif ».

    Les visages noirs ont été jugés plus dignes de confiance que les visages sud-asiatiques, mais pour le reste, il n'y a pas eu d'effet sur la diversité raciale. Cependant, les femmes ont été jugées significativement plus dignes de confiance que les hommes. Les chercheurs affirment que le fait que les visages soient souriants ou non) ce qui aurait pu augmenter la perception de la fiabilité (n'a pas affecté les résultats. « Un visage souriant est plus susceptible d'être jugé digne de confiance, mais 65,5 % des visages réels et 58,8 % des visages synthétiques sont souriants, de sorte que l'expression faciale ne peut expliquer à elle seule pourquoi les visages synthétiques sont jugés plus dignes de confiance », soulignent-ils. Ils suggèrent plutôt que les visages synthétiques peuvent être considérés comme plus dignes de confiance parce qu'ils ressemblent à des visages ordinaires, qui sont eux-mêmes jugés plus dignes de confiance.


    Pour protéger le public des "deepfakes", les chercheurs proposent des lignes directrices pour la création et la distribution d'images de synthèse

    Les garanties pourraient inclure, par exemple, l'intégration de filigranes robustes dans les réseaux de synthèse d'images et de vidéos, qui fourniraient un mécanisme en aval pour une identification fiable. Les auteurs de l'étude terminent par une conclusion sévère après avoir souligné que les utilisations trompeuses des deepfakes continueront à représenter une menace. Ils encouragent donc ceux qui développent ces technologies à se demander si les risques associés sont plus importants que leurs avantages. Si c'est le cas, alors ils decouragent le développement d'une technologie simplement parce qu'elle est possible.

    « Étant donné que c'est la démocratisation de l'accès à cette technologie puissante qui constitue la menace la plus importante, nous encourageons également le réexamen de l'approche souvent laxiste de la diffusion publique et sans restriction du code que chacun peut intégrer dans n'importe quelle application. À ce moment crucial et comme l'ont fait d'autres domaines scientifiques et techniques, nous encourageons la communauté des graphistes et des visionneurs à élaborer des lignes directrices pour la création et la distribution de technologies de médias synthétiques qui intègrent des directives éthiques pour les chercheurs, les éditeurs et les distributeurs de médias ».

    Source : PNAS

    Et vous ?

    Que pensez-vous des résultats de cette recherche ? Les trouvez-vous pertinent ?
    Les experts affirment que nous ne pouvons pas faire la différence entre un visage créé par l'IA et un vrai visage. Êtes-vous d’accord avec cette affirmation ?
    Pensez-vous être capable de différencier un visage vrai, d’un généré par l’IA ?

    Voir aussi :

    Nvidia a mis au point une IA capable de générer des visages humains totalement crédibles, une menace pour l'identité en ligne ?

    Des cybercriminels ont utilisé la technologie deepfake pour voler 35 millions de dollars à une banque, en clonant la voix du directeur

    Deepfake : les vidéos manipulées et parfaitement réelles, pourront être créées par n'importe qui d'ici 6 à 12 mois, d'après Hao Li, un pionnier de cette technologie

    Ce site montre des portraits de visages humains générés par une IA. Aucun d'entre eux n'est réel. Actualisez la page pour en voir un nouveau
    Contribuez au club : Corrections, suggestions, critiques, ... : Contactez le service news et Rédigez des actualités

  2. #2
    Membre chevronné

    Profil pro
    Chef de Projet / Développeur
    Inscrit en
    juin 2002
    Messages
    571
    Détails du profil
    Informations personnelles :
    Localisation : France, Loire Atlantique (Pays de la Loire)

    Informations professionnelles :
    Activité : Chef de Projet / Développeur
    Secteur : Santé

    Informations forums :
    Inscription : juin 2002
    Messages : 571
    Points : 1 844
    Points
    1 844
    Par défaut
    Notre cerveau est fait pour reconnaitre très rapidement des visages, c'est pourquoi on voit un visage même avec ça :
    ou sur la calandre d'une voiture.
    Dès qu'il y a 2 trucs pour symboliser des yeux, on voit un visage même si en réalité cela n'a absolument rien à voir.

    Alors pas étonnant qu'une image photoréaliste puisse nous tromper.
    --
    vanquish

  3. #3
    Membre émérite Avatar de SofEvans
    Homme Profil pro
    Développeur C
    Inscrit en
    mars 2009
    Messages
    1 059
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 33
    Localisation : France

    Informations professionnelles :
    Activité : Développeur C

    Informations forums :
    Inscription : mars 2009
    Messages : 1 059
    Points : 2 271
    Points
    2 271
    Par défaut
    Bonjour !

    Est-ce que quelqu'un pourrait m'expliquer ce qu'est un visage fiable ?
    Parce que l'article en parle pas mal, mais honnêtement, moi et mes 4 neurones n’arrivons pas à comprendre.

    Est-ce qu'on parle de la "fiabilité de quelqu'un à reconnaitre si un visage est réelle ou a été généré" comme le laisse supposer la fin de l'article ?
    Ou alors on cherche à savoir si on pourrait se fier à quelqu'un par rapport à une photo ? Du style "tiens lui il a l'air sympa".

  4. #4
    Membre extrêmement actif
    Avatar de Ryu2000
    Homme Profil pro
    Étudiant
    Inscrit en
    décembre 2008
    Messages
    9 020
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 34
    Localisation : France, Hérault (Languedoc Roussillon)

    Informations professionnelles :
    Activité : Étudiant

    Informations forums :
    Inscription : décembre 2008
    Messages : 9 020
    Points : 17 439
    Points
    17 439
    Par défaut
    Citation Envoyé par SofEvans Voir le message
    Est-ce que quelqu'un pourrait m'expliquer ce qu'est un visage fiable ?
    Là dans le contexte, je crois que ça veut dire qu'on a montré des photos à des gens en leur demandant "est-ce que c'est une vraie personne ou est-ce que c'est une image créée par un algorithme ?".
    Et parfois ils se sont trompés. (après la question change peut-être)
    Ça me rappel un jeu où il fallait différencier des vrais seins et des faux seins.

    Citation Envoyé par Nancy Rey Voir le message
    Le générateur a commencé l'exercice avec des pixels aléatoires. Grâce aux commentaires du discriminateur, il a progressivement produit des visages humains de plus en plus réalistes. En fin de compte, le discriminateur a été incapable de distinguer un vrai visage d'un faux. Les réseaux se sont entraînés sur une série d'images réelles représentant des visages de Noirs, d'Asiatiques de l'Est, d'Asiatiques du Sud et de Blancs, hommes et femmes, contrairement à l'utilisation plus courante de visages d'hommes blancs dans les recherches précédentes.

    Lors de la première expérience, 315 participants ont classé 128 visages tirés d'un ensemble de 800 comme étant réels ou synthétiques. Leur taux d'exactitude était de 48 %, proche d'une performance aléatoire de 50 %, ont-ils constaté.

    Dans une deuxième expérience, 219 nouveaux participants ont été formés et ont reçu des informations sur la façon de classer les visages. Ils ont classé 128 visages tirés du même ensemble de 800 visages que lors de la première expérience ; mais malgré leur entraînement, le taux de précision n'a atteint que 59 %.

    Les chercheurs ont donc décidé de déterminer si la perception de la fiabilité pouvait aider les gens à identifier des images artificielles dans le cadre d'une troisième expérience. « Les visages constituent une riche source d'informations, et une exposition de quelques millisecondes suffit pour faire des déductions implicites sur des caractéristiques individuelles telles que la fiabilité », indiquent les auteurs. La troisième expérience a demandé à 223 participants d'évaluer la fiabilité de 128 visages pris dans le même ensemble de 800 visages sur une échelle de 1 (très indigne de confiance) à 7 (très digne de confiance). La note moyenne attribuée aux visages synthétiques était 7,7 % plus fiable que celle attribuée aux visages réels, ce qui est « statistiquement significatif ».
    Keith Flint 1969 - 2019

  5. #5
    Membre chevronné
    Profil pro
    programmeur du dimanche
    Inscrit en
    novembre 2003
    Messages
    506
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations professionnelles :
    Activité : programmeur du dimanche
    Secteur : Santé

    Informations forums :
    Inscription : novembre 2003
    Messages : 506
    Points : 2 045
    Points
    2 045
    Par défaut
    La troisième expérience a demandé à 223 participants d'évaluer la fiabilité de 128 visages pris dans le même ensemble de 800 visages sur une échelle de 1 (très indigne de confiance) à 7 (très digne de confiance). La note moyenne attribuée aux visages synthétiques était 7,7 % plus fiable que celle attribuée aux visages réels
    C'est difficile à interpréter. Ont-ils montré les visages réels tirés de la base qui a servi à entraîner les réseaux (si non, ça n'a pas de sens). Les photos sont-elle issu d'un choix à la discrétion des organisateurs ou ont-elle été tirées au hasard (même remarque sur le sens).

    Pensez-vous être capable de différencier un visage vrai, d’un généré par l’IA ?
    C'est difficile et contre-instinctif car en effet comme dit vanquish ceci est un visage.
    Je suppose que pour l'instant oui dans une majorité des cas, en se concentrant et en s'entraînant comme les réseaux... mais avec un réseau assez entraîné à la fin, je pense que non.

    Par ex., on voit que ces réseaux sont entraînés sur les visages. Par contre, l'arrière plan est soit flou, soit un méli-mélo insensé (comme le 1er en haut à gauche avec les lunettes et le sourire). Ou bien les vêtements sont problématiques comme l'enfant en haut à droite. En regardant quelques images sur https://thispersondoesnotexist.com/image , on trouve d'autres anomalies : des mélanges de traits de visage infantiles et adultes (la femme/fille en haut milieu) ; des dents bizarres ; des problème de fusion des contours entre les parties du visages , les oreilles etc.
    C'est un peu comme savoir en un clin d'oeil équilibrer la balance des couleurs/niveaux d'une photo à la main ou reconnaître un codec son ou vidéo à ses artéfacts. C'est pas inné, mais quand on a beaucoup traité, on ne voit plus que ça. Ou comme les musiciens qui entendent les notes qui manquent...

  6. #6
    Membre extrêmement actif
    Femme Profil pro
    Webmarketer
    Inscrit en
    janvier 2021
    Messages
    397
    Détails du profil
    Informations personnelles :
    Sexe : Femme
    Localisation : France, Seine et Marne (Île de France)

    Informations professionnelles :
    Activité : Webmarketer

    Informations forums :
    Inscription : janvier 2021
    Messages : 397
    Points : 734
    Points
    734
    Par défaut
    Cela nous amène donc à nous demander si nous pourrons faire confiance à ce que nous voyons sur nos écrans dans un avenir proche, si l'IA générer m de fausses images qui peuvent tromper tout le monde

  7. #7
    Membre extrêmement actif
    Femme Profil pro
    Webmarketer
    Inscrit en
    janvier 2021
    Messages
    397
    Détails du profil
    Informations personnelles :
    Sexe : Femme
    Localisation : France, Seine et Marne (Île de France)

    Informations professionnelles :
    Activité : Webmarketer

    Informations forums :
    Inscription : janvier 2021
    Messages : 397
    Points : 734
    Points
    734
    Par défaut
    Nous aimons les visages symétriques et beaucoup de gens ont des imperfections.

Discussions similaires

  1. [HTML] Nommer les boutons générés par <input type=file>
    Par elspliffo dans le forum Balisage (X)HTML et validation W3C
    Réponses: 4
    Dernier message: 13/09/2007, 13h45
  2. Recuperer les controls générés par access
    Par petozak dans le forum IHM
    Réponses: 5
    Dernier message: 27/07/2007, 00h05
  3. coché tous les checkbox généré par php
    Par Henry9 dans le forum Général JavaScript
    Réponses: 1
    Dernier message: 20/07/2007, 14h13
  4. Réponses: 2
    Dernier message: 11/12/2006, 15h14
  5. réduire l'espace interieur généré par les balises form
    Par psychoBob dans le forum Balisage (X)HTML et validation W3C
    Réponses: 6
    Dernier message: 29/05/2006, 18h11

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo