Discussion :

[Stéphane le calme]

Ce site montre des portraits de visages humains générés par une IA. Aucun d'entre eux n'est réel.
Il suffit d'actualiser la page pour en voir un nouveau

Si vous regardez les images présentées sur le site Web ThisPersonDoesnotExist.com (cette personne n’existe pas), vous pouvez penser être tombé sur des portraits aléatoires de lycée ou des photos issues d’une autre source. Pourtant, chaque photo sur le site a été créée en utilisant un type spécial d'algorithme d'intelligence artificielle appelé generative adversarial network (GAN, ou, en français, réseau antagoniste génératif).

Chaque fois que le site est rafraîchi, une image débordant de réalisme présente le visage d’une personne. Phillip Wang, ingénieur en logiciel chez Uber, a créé la page pour démontrer les capacités du GAN, puis l'a publiée mardi sur le groupe public "Intelligence artificielle et apprentissage en profondeur".

Le code sous-jacent qui a rendu cela possible, intitulé StyleGAN, a été écrit par Nvidia et fait l'objet d'un article qui n'a pas encore été approuvé par des pairs. Ce type de réseau de neurones a le potentiel de révolutionner la technologie du jeu vidéo et de la modélisation 3D, mais, comme presque tout type de technologie, il pourrait également être utilisé à des fins plus sinistres. Rappelons par exemple que les deepfakes, ou des images générées par ordinateur superposées à des images ou des vidéos existantes, peuvent être utilisés pour diffuser de faux récits d’actualité ou d’autres canulars. C’est donc dans un but de sensibilisation que Wang a choisi de faire cette page Web.

Portrait généré par l'IA

Récemment, un groupe de chercheurs talentueux de Nvidia a publié un réseau antagoniste génératif à la pointe de la technologie, StyleGAN, ici.

J'ai décidé de puiser dans mes propres poches et de sensibiliser le public à cette technologie.

Les visages sont les éléments les plus importants de notre connaissance, alors j'ai décidé de mettre en place ce modèle préentraîné spécifique. Leur groupe de recherche a également inclus des modèles de préentraînement pour les chats, les voitures et les chambres dans leur référentiel, que vous pouvez immédiatement utiliser.

Chaque fois que vous actualisez le site, le réseau génère une nouvelle image faciale à partir d'un vecteur à 512 dimensions.

Vous pouvez en apprendre davantage sur l’architecture réseau en jetant un coup d’œil au résumé qu'un ami a gentiment passé du temps à rédiger.

Comment fonctionnent les GAN ?

Le concept de GAN a été introduit pour la première fois en 2014 par le célèbre informaticien Ian Goodfellow, et depuis lors, Nvidia est à la pointe de la technologie. Tero Karras, chercheur principal de la société, a dirigé de nombreuses études sur le GAN.

Un GAN est un modèle génératif où deux réseaux sont placés en compétition dans un scénario de théorie des jeux. Le premier réseau est le générateur, il génère un échantillon (ex. une image), tandis que son adversaire, le discriminateur essaie de détecter si un échantillon est réel ou bien s'il est le résultat du générateur. L'apprentissage peut être modélisé comme un jeu à somme nulle. Ces programmes informatiques se font concurrence des millions de fois afin d’affiner leurs compétences en matière de génération d’images jusqu’à ce qu’ils aient la capacité de créer des images complètes.

S’il fallait simplifier, nous pourrions dire que le GAN implique que deux réseaux travaillent l’un contre l’autre. Le premier va être nourri en données brutes qu’il va décomposer. À partir de ces données, il va tenter de créer une image. Il va ensuite soumettre cette image à un autre réseau qui, lui, n’a que des photos ou images réelles dans sa base de données. Ce deuxième réseau va alors juger de l’image et va informer le premier de son jugement. Si l’image ne ressemble pas au résultat attendu, le premier algorithme va recommencer le processus. Si le résultat correspond, il va être informé qu’il est sur la bonne voie et finir par comprendre ce qu’est une bonne image. Une fois qu’il est suffisamment entraîné, il peut en produire à la chaîne.

Il faut noter que les GAN ne servent pas seulement dans le domaine de l'art ou du jeu vidéo. En Russie, l'Institut de physique et de technologie de Moscou développe des GAN qui seraient capables d'"inventer" de nouvelles structures moléculaires dans le cadre de la recherche pharmaceutique. Ils seraient employés pour exploiter au mieux les propriétés spécifiques de molécules utilisées pour la fabrication de médicaments. L'existence de cette technologie pourrait apporter pour la recherche un gain de temps et de coûts, et améliorer l'efficacité ou réduire les effets secondaires de certains médicaments comme l'aspirine. Sur le principe, les informations sur des composés aux propriétés médicinales reconnues sont intégrées dans le Generative Adversarial Autoencodeur, une extension du GAN, ajusté pour faire ressortir ces même données.

Artur Kadurin, développeur au sein du groupe Mail.Ru et conseiller indépendant chez Insilico Medecine, une entreprise américaine, annonce que : "Les GAN sont vraiment la ligne de front des neurosciences. Il est clair qu'ils peuvent être utilisés pour une gamme de tâches beaucoup plus large que la simple génération d'images et de musique. Nous avons testé cette approche avec la bio-informatique et obtenu d'excellents résultats."

Cependant, bien que des progrès ont été notés dans l'apprentissage de ces GAN et qu'ils peuvent apporter une meilleure compréhension en biologie et chimie, il n'en reste pas moins que leur utilisation dans des essais cliniques ne sont pas encore fiables

Nvidia tire son épingle du jeu

Le premier secteur d'activité de Nvidia est la conception et la vente d'unités de traitement graphique (GPU, ou cartes graphiques). Les GPU sont les moteurs de l'apprentissage automatique utilisés pour la formation d'algorithmes, tels que StyleGAN, pendant des heures. En somme, les GPU sont excellents pour multiplier rapidement d’énormes rangées et colonnes de chiffres, ce qui est un peu ce qui se passe sous le capot quand une IA se forme.

L’entreprise a l’avantage d’avoir accès à ses GPU les plus avancés, offrant ainsi à ses chercheurs l’avantage supplémentaire des ressources les plus avancées pour la formation de réseaux de neurones.

Nvidia, Facebook, Google et de nombreuses autres entreprises de haute technologie ont des escadrons de chercheurs développant des versions de cette technique d’IA. L'objectif final est de l'utiliser pour générer des mondes virtuels complètement développés, potentiellement en réalité virtuelle, en utilisant des méthodes automatisées au lieu d'un codage strict. Mais dans le même temps, les GAN sont déjà utilisés pour développer le marché naissant des influenceurs virtuels dans les médias sociaux.

Sources : ThisPersonDoesNotExist, déclarations Phillip Wang (Facebook), réseaux antagonistes génératifs

Et vous ?

Que pensez-vous de cette initiative ?
Ces portraits vous semblent-ils réalistes ?
Trop beau pour être vrai ?

Voir aussi :

Gartner démystifie cinq idées fausses sur l'intelligence artificielle, ou « IA », l'argument marketing du moment, d'après l'un des inventeurs de Siri
Watson IA bientôt disponible partout, IBM compte externaliser son service vers les autres clouds concurrents
Vos compétences en IA sont moins précieuses que vous le pensez, selon un ex-Googler estimant que c'est une mauvaise idée de lancer une startup en IA
AlphaStar, la nouvelle IA de DeepMind, a écrasé des joueurs pro de Starcraft II, un jeu vidéo conçu pour défier l'intellect humain

[Folgore]

La technologie peux en effet être intéressante pour des avatars de plus en plus réalistes dans les jeuxvideos (meme si franchement, certains titres sont assez bluffant a ce niveau la).

Apres c'est sure que l'utilisation risque d’être pas mal utilisé a des fins peu scrupuleuses (de l'application de rencontres trompeuses avec une tonnes de profils issus de l'ia, faux profils dans le but d'arnaquer... enfin choses qui existent deja sans forcement utiliser des visages fantômes )

[Kulvar]

Et dans le futur, ce sera utilisé pour générer des images pornographiques.

[Citrax]

L'affirmation de l'article est cette trouvaille me pose totalement problème. Affirmer clairement que ces personnes n'existent pas sur terre implique d'avoir deja référencée plus de 7 milliards de visages d'être humain !
( Sans compter ceux qui sont morts depuis l'aube de l'humanité)

Est-ce que c'est le cas ???

[Fagus]

L'affirmation de l'article est cette trouvaille me pose totalement problème. Affirmer clairement que ces personnes n'existent pas sur terre implique d'avoir deja référencée plus de 7 milliards de visages d'être humain !
( Sans compter ceux qui sont morts depuis l'aube de l'humanité)

Est-ce que c'est le cas ???

On ne peut souvent pas démontrer que quelque chose n'existe pas en effet sans un référencement exhaustif, néanmoins, si ça peut vous convaincre, vous pouvez relire https://www.developpez.com/actu/2386...tite-en-ligne/ et regarder des démonstrations de vidéos deepfake.

[Séraphin Lampion]

Est-ce autre chose qu'une interpolation remarquablement bien réalisée de N visages qui eux existent ?

[Mingolito]

Celui la est mieux encore : https://thiscatdoesnotexist.com

[Bruno43]

Haha les images de chats sont bien dégueulasses, par contre au remarque les mêmes anomalies quand on a deux personnes sur une même photo la deuxième personne est difforme. Une autre limitation c'est les lunettes l'IA a bien du mal à interpoler les yeux de personnes qui ont des lunettes, les glitches sont très visibles.
Par contre pour faire un fake avatar pour les sites de rencontre c'est assez limité parce que l'IA ne semble pas capable de créer plusieurs variantes d'une même personne. ça va pour l'instant on peut dormir tranquille.. pour combien de temps?

Par contre Nvidia d'un point de vue purement technologique c'est passionnant.

[Stéphane le calme]

NVidia publie en open source StyleGAN, la technologie qui a servi à générer des visages humains,
vous pouvez donc l'utiliser à des fins non commerciales

Si vous regardez les images présentées sur le site Web ThisPersonDoesnotExist.com (cette personne n’existe pas), vous pouvez penser être tombé sur des portraits aléatoires de lycée ou des photos issues d’une autre source. Pourtant, chaque photo sur le site a été créée en utilisant un type spécial d'algorithme d'intelligence artificielle appelé generative adversarial network (GAN, ou, en français, réseau antagoniste génératif).

Chaque fois que le site est rafraîchi, une image débordant de réalisme présente le visage d’une personne. Phillip Wang, ingénieur en logiciel chez Uber, a créé la page pour démontrer les capacités du GAN, puis l'a publiée sur le groupe public "Intelligence artificielle et apprentissage en profondeur".

Le code sous-jacent qui a rendu cela possible, intitulé StyleGAN, a été écrit par Nvidia et fait l'objet d'un article qui n'avait pas encore été approuvé par des pairs. Ce type de réseau de neurones a le potentiel de révolutionner la technologie du jeu vidéo et de la modélisation 3D, mais, comme presque tout type de technologie, il pourrait également être utilisé à des fins plus sinistres. Rappelons par exemple que les deepfakes, ou des images générées par ordinateur superposées à des images ou des vidéos existantes, peuvent être utilisés pour diffuser de faux récits d’actualité ou d’autres canulars. C’est donc dans un but de sensibilisation que Wang a choisi de faire cette page Web.

Récemment, un groupe de chercheurs talentueux de Nvidia a publié un réseau antagoniste génératif à la pointe de la technologie, StyleGAN.

J'ai décidé de puiser dans mes propres poches et de sensibiliser le public à cette technologie.

Les visages sont les éléments les plus importants de notre connaissance, alors j'ai décidé de mettre en place ce modèle préentraîné spécifique. Leur groupe de recherche a également inclus des modèles de préentraînement pour les chats, les voitures et les chambres dans leur référentiel, que vous pouvez immédiatement utiliser.

Chaque fois que vous actualisez le site, le réseau génère une nouvelle image faciale à partir d'un vecteur à 512 dimensions.

Vous pouvez en apprendre davantage sur l’architecture réseau en jetant un coup d’œil au résumé qu'un ami a gentiment passé du temps à rédiger.

Comment fonctionnent les GAN ?

S’il fallait simplifier, nous pourrions dire que le GAN implique que deux réseaux travaillent l’un contre l’autre. Le premier va être nourri en données brutes qu’il va décomposer. À partir de ces données, il va tenter de créer une image. Il va ensuite soumettre cette image à un autre réseau qui, lui, n’a que des photos ou images réelles dans sa base de données. Ce deuxième réseau va alors juger de l’image et va informer le premier de son jugement. Si l’image ne ressemble pas au résultat attendu, le premier algorithme va recommencer le processus. Si le résultat correspond, il va être informé qu’il est sur la bonne voie et finir par comprendre ce qu’est une bonne image. Une fois qu’il est suffisamment entraîné, il peut en produire à la chaîne.

StyleGAN, l'implémentation TensorFlow officielle

Pour ceux d'entre vous qui se sont demandé si l'IA est capable de faire des variantes d'une même personne, la réponse est oui. En effet, sur le dépôt officiel de StyleGAN, technologie dont Phillip Wang s'est servi, l'image ci-dessous nous indique que « Ces personnes ne sont pas réelles - elles ont été produites par notre générateur, ce qui permet de contrôler différents aspects de l'image »

Nous proposons une architecture génératrice alternative pour les réseaux antagonistes génératifs, empruntant à la littérature sur le transfert de style. La nouvelle architecture aboutit à une séparation automatiquement apprise et non supervisée des attributs de haut niveau (par exemple, la pose et l’identité lorsqu’ils sont formés sur des visages humains) et à une variation stochastique des images générées (par exemple, des taches de rousseur, des cheveux) et contrôle spécifique de la synthèse. Le nouveau générateur améliore l'état de l'art en termes de métriques de qualité de distribution traditionnelles, conduit à des propriétés d'interpolation manifestement meilleures et permet également de mieux démêler les facteurs de variation latents. Pour quantifier la qualité d'interpolation et le démêlage, nous proposons deux nouvelles méthodes automatisées applicables à toute architecture de générateur. Enfin, nous introduisons un nouvel ensemble de données de visages humains extrêmement varié et de grande qualité.

Dans ce dépôt, l'équipe de NVidia a mis à disposition des ressources pour permettre la génération d'images. En dehors du jeu de données Flickr-Faces-HQ, tous les matériaux de StyleGAN sont sous licence Creative Commons BY-NC 4.0 : vous pouvez donc utiliser, redistribuer et adapter le matériel à des fins non commerciales, à condition de donner le crédit voulu en citant l'article de NVidia et en indiquant les modifications que vous avez apportées.

Voici les recommandations système de NVidia :

• Linux et Windows sont pris en charge, mais nous recommandons vivement Linux pour des raisons de performances et de compatibilité.
• Installation de Python 3.6 64 bits. Nous recommandons Anaconda3 avec numpy 1.14.3 ou une version plus récente.
• TensorFlow 1.10.0 ou une version plus récent avec prise en charge du processeur graphique.
• Un ou plusieurs GPU haut de gamme avec au moins 11 Go de DRAM. Nous recommandons NVIDIA DGX-1 avec 8 GPU Tesla V100.
• Pilote NVIDIA 391.35 ou une version plus récente, CUDA Toolkit 9.0 ou une version plus récente, NDDN 7.3.1 ou une version plus récente.

Des exemples d'utilisation (basique et avancée) sont fournies. Une fois exécuté, le script télécharge un générateur StyleGAN pré-formé à partir de Google Drive et l'utilise pour générer une image.

Source : StyleGAN

Et vous ?

Qu'en pensez-vous ? Allez-vous l'utiliser ?

Voir aussi :

Les spécialistes du marketing ont de grands espoirs pour l'intelligence artificielle, mais seulement peu d'entre eux l'utilisent actuellement
Une intelligence artificielle peut-elle être un juge équitable dans un tribunal ? L'Estonie pense que oui
IDC prévoit une croissance à deux chiffres du marché mondial des dispositifs domestiques intelligents entre 2019 et 2023
Les « parrains de l'intelligence artificielle » récompensés du prix Turing 2018, le prix Nobel de l'informatique

[Stéphane le calme]

Les applications de rencontres ont besoin de femmes. Les annonceurs ont besoin de diversité.
Les entreprises d'IA proposent une solution : des visages générés par ordinateur

Si vous regardez les images présentées sur le site Web ThisPersonDoesnotExist.com (cette personne n’existe pas), vous pouvez penser être tombé sur des portraits aléatoires de lycée ou des photos issues d’une autre source. Pourtant, chaque photo sur le site a été créée en utilisant un type spécial d'algorithme d'intelligence artificielle appelé generative adversarial network (GAN, ou, en français, réseau antagoniste génératif).

Chaque fois que le site est rafraîchi, une image débordant de réalisme présente le visage d’une personne. Phillip Wang, ingénieur en logiciel chez Uber, a créé la page pour démontrer les capacités du GAN, puis l'a publiée sur le groupe public "Intelligence artificielle et apprentissage en profondeur".

Le code sous-jacent qui a rendu cela possible, intitulé StyleGAN, a été écrit par Nvidia et fait l'objet d'un article qui n'avait pas encore été approuvé par des pairs. Ce type de réseau de neurones a le potentiel de révolutionner la technologie du jeu vidéo et de la modélisation 3D, mais, comme presque tout type de technologie, il pourrait également être utilisé à des fins plus sinistres. Rappelons par exemple que les deepfakes, ou des images générées par ordinateur superposées à des images ou des vidéos existantes, peuvent être utilisés pour diffuser de faux récits d’actualité ou d’autres canulars. C’est donc dans un but de sensibilisation que Wang a choisi de faire cette page Web.

S’il fallait simplifier, nous pourrions dire que le GAN implique que deux réseaux travaillent l’un contre l’autre. Le premier va être nourri en données brutes qu’il va décomposer. À partir de ces données, il va tenter de créer une image. Il va ensuite soumettre cette image à un autre réseau qui, lui, n’a que des photos ou images réelles dans sa base de données. Ce deuxième réseau va alors juger de l’image et va informer le premier de son jugement. Si l’image ne ressemble pas au résultat attendu, le premier algorithme va recommencer le processus. Si le résultat correspond, il va être informé qu’il est sur la bonne voie et finir par comprendre ce qu’est une bonne image. Une fois qu’il est suffisamment entraîné, il peut en produire à la chaîne.

Début avril 2019, NVidia a publié en open source StyleGAN.

Une technologie qui fait le bonheur des startups

Des startups d'intelligence artificielle ont décidé de vendre des images de visages générés par ordinateur qui ressemblent à la réalité, offrant aux entreprises la possibilité « d'augmenter la diversité » de leurs annonces sans avoir besoin d'êtres humains.

Une entreprise propose de vendre diverses photos pour des brochures marketing et a déjà signé des clients, y compris une application de rencontres qui a l'intention d'utiliser les images dans un chatbot. Une autre entreprise a déclaré qu'elle allait faire plus que générer des têtes par une IA et se lancer dans la génération de faux corps dès ce mois-ci.

StyleGAN, la technologie utilisée pour créer de tels visages est disponible en open source et s'améliore rapidement, permettant aux startups de créer facilement des contrefaçons si convaincantes qu'elles peuvent tromper l'œil humain. Les systèmes s'entraînent sur des bases de données massives de visages réels, puis tentent de reproduire leurs caractéristiques dans de nouveaux designs.

Mais les experts en IA craignent que les contrefaçons ne conduisent à une nouvelle génération d'escrocs, de bots et d'espions, qui pourraient utiliser les photos pour créer des personnages en ligne imaginaires, masquer les biais d'embauche et nuire aux efforts visant à apporter de la diversité aux industries. Le fait qu'un tel logiciel ait désormais un modèle commercial pourrait également alimenter une plus grande érosion de la confiance sur un Internet déjà attaqué par des campagnes de désinformation, des vidéos deepfake et d'autres techniques trompeuses.

Elana Zeide, diplômé en intelligence artificielle, droit et politique à l'Université de Californie à la faculté de droit de Los Angeles, a déclaré que la technologie « met en évidence le peu de pouvoir et de connaissances dont disposent les utilisateurs par rapport à la réalité de ce qu'ils voient en ligne ».

« Il n'y a pas de réalité objective pour comparer ces photos », a-t-elle déclaré. « Nous sommes habitués à des mondes physiques avec une entrée sensorielle... mais avec cela, nous n'avons pas de réponses instinctives ou enseignées sur la façon de détecter ce qui est réel et ce qui ne l'est pas. C'est épuisant ».

l'IA est capable de faire des variantes d'une même personne

Icons8, une firme de design basée en Argentine qui vend des illustrations numériques et des photos d'archives, a lancé son activité en ligne Generated.photos le mois dernier, offrant « des modèles divers à la demande à l'aide de l'IA ».

Le site permet à quiconque de filtrer les fausses photos en fonction de l'âge (de « nourrisson » à « personnes âgées »), de l'origine ethnique (y compris « blanc », « latino », « asiatique » et « noir ») et de l'émotion («  joie », « neutre » , « surprise »), ainsi que le sexe, la couleur des yeux et la longueur des cheveux. Le système montre cependant un certain nombre de lacunes et de biais étranges : par exemple, la seule couleur de peau disponible pour les nourrissons est le blanc.

La société affirme que ses visages pourraient être utiles pour les clients qui ont besoin de dynamiser du matériel promotionnel, de remplir des prototypes ou d'illustrer des concepts trop délicats pour un modèle humain, tels que des « situations embarrassantes » et des « procédures pénales ». Son guide en ligne promet également aux clients qu'ils peuvent « augmenter la diversité » et « réduire les biais » en incluant « de nombreuses origines ethniques différentes dans vos projets ».

Certains émettent des réserves sur l'utilisation d'une telle technologie

Alors que les startups proposent d'offrir aux entreprises l'illusion de la diversité avec l'IA, leurs systèmes ont un défaut crucial: ils imitent uniquement les ressemblances qu'ils ont déjà vues. Valerie Emanuel, cofondatrice basée à Los Angeles de l'agence de talents Role Models Management, a déclaré qu'elle craignait que ce genre de fausses photos ne transforme le médium en monoculture, dans laquelle la plupart des visages se ressemblent.

« Nous voulons créer plus de diversité et montrer des visages uniques dans la publicité à l'avenir », a déclaré Emanuel. « Cela homogénéise un seul regard ».

Icons8 a créé ses visages en premier en prenant des dizaines de milliers de photos d'environ 70 modèles dans des studios du monde entier, a déclaré Ivan Braun, fondateur de la société. Les collègues de Braun (qui travaillent à distance aux États-Unis, en Italie, en Israël, en Russie et en Ukraine) ont ensuite passé plusieurs mois à préparer une base de données, à nettoyer les images, à étiqueter les données et à organiser les photos selon les spécifications précises de l'ordinateur.

Une fois ces images prêtes, les ingénieurs ont ensuite utilisé StyleGAN pour générer un flot de nouvelles photos, générant 1 million d'images en une seule journée. Son équipe a ensuite sélectionné les 100 000 images les plus convaincantes, qui ont été mises à la disposition du public. Les prochains mois ils ont l'intention d'en proposer plus.

La société, a déclaré Braun, a signé trois clients au cours de sa première semaine : une université américaine, une application de rencontres et une société de planification des ressources humaines. Braun a refusé de nommer les clients. Les clients peuvent télécharger jusqu'à 10 000 photos par mois à partir de 100 $.

Une autre entreprise, la startup basée à San Francisco, Rosebud AI, offre à ses clients une galerie de 25 000 photos « de modèles personnalisés d'IA de différentes ethnies ». Lisha Li, la fondatrice de l'entreprise, a déclaré qu'elle avait d'abord commercialisé les photos comme un moyen pour les petites entreprises sur les sites de vente en ligne d'inventer des modèles élégants sans avoir besoin de photographies coûteuses.

Les images sources de son entreprise proviennent de bases de données en ligne de photos gratuites et non protégées, et le système permet aux clients de superposer facilement différents visages sur un ensemble de corps changeant. Elle promeut le système comme un outil puissant pour augmenter les capacités des photographes, les laissant facilement adapter les modèles pour un shooting de mode à la nationalité ou l'origine ethnique du spectateur.

Le système est proposé à un groupe limité de clients, que la société évalue individuellement dans l'espoir de bloquer les mauvais acteurs. Environ 2000 clients potentiels sont sur la liste d'attente.

Les techniques d'apprentissage automatique sont open source, permettant à pratiquement n'importe qui de les utiliser et de les développer. Et le logiciel s'améliore tout le temps: une nouvelle version de StyleGAN, dévoilée le mois dernier par des chercheurs en IA de Nvidia, promet des méthodes de génération plus rapides et des images de meilleure qualité.

Les chercheurs disent que les images sont un cadeau pour les fournisseurs de désinformation, car contrairement aux vraies photos prises ailleurs, elles ne peuvent pas être facilement retracées. De telles contrefaçons sont déjà utilisées, y compris sur Facebook, où les vérificateurs des faits ont trouvé les images utilisées pour créer de faux profils pour promouvoir des pages présélectionnées ou des idées politiques.

Dans un autre cas, il a été établi que le profil LinkedIn d'une jeune femme prétendument nommée Katie Jones, qui a créé des liens avec de hauts responsables de Washington, se servait d'une image générée par l'IA. Des experts du contre-espionnage ont déclaré à l'Associated Press qu'il portait les signatures d'espionnage étranger.

La création d'images générées par l'IA à ce volume pourrait être extrêmement coûteuse, car le processus nécessite une puissance de calcul extraordinaire. Mais la société de Braun, comme d'autres, bénéficie de la concurrence entre Google et Amazon dans le cloud computing, qui offrent tous deux des « crédits » que les start-ups peuvent utiliser pour un travail intensif en IA à des tarifs fortement réduits.

Braun a déclaré que la crainte que des images générées par l'IA soient utilisées à des fins de désinformation ou d'abus est raisonnable, ajoutant : « nous devons nous en inquiéter. La technologie est déjà là, nous devons faire avec ». Mais la solution à ce problème, a-t-il dit, n'est pas la responsabilité d'entreprises comme la sienne : au lieu de cela, il faudra une « combinaison de changement social, de changement technologique et de politique ». (La société n'utilise aucune mesure d'authentification, comme des filigranes, pour aider les gens à vérifier si les images sont réelles ou des images générées par une IA).

Source : Associated Press, Analysis, NVidia, Rosebud AI, Generated.Photos

Et vous ?

Que pensez-vous de cette technologie dans l'absolu ?
Étant donné que cette technologie a déjà été utilisée par des acteurs malveillants (notamment la personne avec un faux compte LinkedIn en contact avec de hauts responsables de Washington) faut-il craindre le pire ?
Quels sont les scénarios catastrophes que vous pouvez imaginer avec cette technologie ?
Quels pourraient être les cas d'utilisation les plus intéressants ?
Un raccourci pour certaines plateformes qui pourraient donner l'illusion de la diversité ?
Dans le cas d'espèce, l'IA qui est capable de générer des visages réalistes est-elle une menace pour les mannequins de publicité ? Dans quelle mesure ?

Voir aussi :

Airbnb prétend que son IA peut prédire si les clients sont des psychopathes, après avoir scanné leur vie en ligne et regroupé des informations sur eux
Samsung a créé un nouveau logiciel qui utilise l'IA et l'appareil photo de votre téléphone, pour suivre les mouvements de vos doigts pendant qu'ils tapent sur un clavier invisible en face de vous
L'année 2020 marquera les débuts d'une véritable adoption de l'IA dans les entreprises, selon une étude d'IBM
Ubisoft a construit une nouvelle IA pour apprendre à une voiture à se conduire dans un jeu de course, en utilisant l'apprentissage par renforcement

[yahiko]

Je vois en tout cas des applications de cette technologie dans le domaine des jeux vidéos ou dans les films où on a régulièrement besoin de générer une grande quantité de personnages.

[calvaire]

Euh... pour contourner le probleme de la diversité et du nombre de femmes on mets des fake à la place ?...
Je veux bien mais à la seul condition de m'envoyer une femme réel qui ressemble à la photo pour la rencontre ainsi qu'une personnalité proche du blabla que l'ia m'aura donné.

Cela dit les site de rencontres ont déja pas mal de compte fake, c'est pas comme si on ne mentait encore pas au client... autant améliorer la technique.

C'est du bullshit total, déja la miniature de la video montre une femme tres jolie... comme par hasars ils évident les femmes vielle, grosse et moche... sa n'attire pas.
Et je parle pas de l'argumentaire bateau :

des « situations embarrassantes » et des « procédures pénales ».

J'attends des exemples concrets qu'on rigole !

[tanaka59]

Bonjour ,

Que pensez-vous de cette technologie dans l'absolu ?

Cela peut avoir du bon pour le domaine du jeu, du loisir ou du film quand on veut créer du personnage de fiction en grande quantité

Beaucoup moins quand on chercher à créer "le corp parfait" ou pour les faussaires ... L'histoire des faux profils de femmes n'est la n'y plus ni moins que pour augmenter les revenus des sites de rencontres ... Quand on sait que dans certains pays comme le Chine ou l'Inde il manque plusieurs dizaine de millions de femmes proportionnelement au nombre d'hommes. C'est plutôt malsain de jouer avec "l'emotionnalité" des gens

Étant donné que cette technologie a déjà été utilisée par des acteurs malveillants (notamment la personne avec un faux compte LinkedIn en contact avec de hauts responsables de Washington) faut-il craindre le pire ?

Tout a fait . Associer cette techno à l'impression 3D de "faux visages". Vous avez des personnes qui peuvent passer sous le coup de la surveillance de masse ...

Quels pourraient être les cas d'utilisation les plus intéressants ?

Créer des avatars pour le JV ou le cinéma.

Un raccourci pour certaines plateformes qui pourraient donner l'illusion de la diversité ?

Tout à fait les sites de rencontre seraient prêts à jouer avec la crédulité des utilisateurs . En quoi est ce de la faute de la classe masculine par exemple d'être en surnombreuse par rapport à la classe féminine ? Avec de telles pratiques on accepterait et trouverait "normal" que d'user du temps et de l'argent de personnes qui finiront célibataire leur vie ?

Une entreprise aurait donc pouvoir de vie ou de mort sur des utilisateurs ? Le jour ou les utilisateurs masculins célibataires ne sont plus rentables on leur envoie un message en disant "suicidez vous on plus besoin de vous sur terre" ?

C'est caricatural je sais . En réfléchissant 2 minutes il y a tout de même de quoi se poser des questions ...

Cela ne choque personne de se dire tien il y a plus d'hommes que de femmes ? Qu'est ce que cela génère ? Des comportements malsain envers la gente féminine ou même déviant ...

C'est comme avec les sectes, il y a une sorte de lavage de cerveau et de "tirage de la mentalité" vers le bas. Pousser au consumérisme jusqu'à qu'on est plus besoin de l'individu et qu'il soit considéré comme un vulgaire déchet puis on passe au suivant ...

Dans le cas d'espèce, l'IA qui est capable de générer des visages réalistes est-elle une menace pour les mannequins de publicité ? Dans quelle mesure ?

Pour l'univers de la mode au lieu d'avoir des frais femmes mannequin on aura des femmes virtuelles , sous forme d'avatars aux mensurations parfaite ... Ou comment précariser d'une part l'univers de la mode . Les jeunes qui arrivent à faire du mannequina et a gagner quelques euros car elles ont le physique X ou Y tant mieux. Puis on s'en passera car il faut payer des êtres humains, on remplacera par des lignes de codes et des avatars ... La "beauté" est un critère très subjectif ...

Dans 5 ans on diraa que la femme parfaite c'est la baroudeuse rousse et masculine ? Puis dans 10 ans la femme latina ? Puis dans dans 20 ans la femme africaine ?

Je dis cela, je dis rien mais depuis quelques temps déjà la "femme" parfait dans les pubs/medias/JV ... c'est la blonde / brune a frange , de style urbain, moderne , cadre dynamique , insoumise , déterminée ... Et pourquoi pas le femme à bourrelé rousse ?

Je sais c'est méchant , mais en même temps quand on voit les caricatures pour vendre et faire consommer ...

[MRSizok]

Pour information, le minitel rose à l'époque utilisé des hommes déjà pour tchater avec des hommes... Les sites actuels de rencontre utilise déjà ces méthodes. Ils sont plus à une image prêt.

On peut voir ça comme la continuité de tout ce qui nous entoure "de fausses promesses"

[tanaka59]

Bonjour,

Pour information, le minitel rose à l'époque utilisé des hommes déjà pour tchater avec des hommes... Les sites actuels de rencontre utilise déjà ces méthodes. Ils sont plus à une image prêt.

On peut voir ça comme la continuité de tout ce qui nous entoure "de fausses promesses"

Avec la proliferation des contenus les problèmes sont amplifiés . D'autant qu'aujourd'hui 60% de la population mondial a accès à internet . On est plus au temps du minitel. Donc les problèmatiques liées à l'hyperconnectivité , aux contenux addictif et j'en passe , crée comme des "manques" ou le même effet que les drogues .

Le propre de chaque espèce est d'assurer sa descendance , humains compris. Va dire à une partie de la population mondiale qu'elle n'aura jamais accès à la chose. D'une part tu vas te faire incendier, d'autre part tu risques vite de déclencher de vives hostilités et des sentiments de frustrations , avec bon nombre de comportement malsains et immondes que l'on connait ...

On parle de plusieurs millions individus . Selon les estimations de l'omc près de 60 à 80 millions d'hommes en trop sur terre par rapport au nombre de femmes.

[bdl-phi]

Les métiers de la figuration ont de quoi s'inquiéter. Pour ce qui est des applications de rencontre, si le système fait également la conversation, il sera facile de trouver des pigeons pour des applis de rencontre qui ne souhaitent pas durer.