Discussion :

[Patrick Ruiz]

Des chercheurs développent une IA capable de déterminer si un sujet est gay ou hétéro
À partir de photos de son visage

Des chercheurs de l’université de Standford ont utilisé des algorithmes d’apprentissage profond pour montrer que l’intelligence artificielle est meilleure que les humains pour déterminer l’orientation sexuelle d’un sujet à partir d’une photo. Au-delà du caractère scientifique de ses travaux, l’équipe de recherche voit l’IA qu’elle a mise sur pied comme un moyen de prévenir la communauté des lesbiennes, gays, bisexuels et transgenres des dangers qu’elle coure au quotidien.

VGG-Face (c’est le nom de l’IA développée par les chercheurs) a été entrainée à partir d’un lot de 35 000 images faciales obtenues à partir de profils publics de sites de rencontre américains. À partir du scan d’une seule photo, elle est capable de faire une prédiction correcte de l’orientation sexuelle d’un sujet de sexe masculin (gay ou hétéro) dans 81 % des cas contre 74 % pour ce qui est des sujets de sexe féminin (lesbienne ou hétéro).

Des pourcentages de 91 % pour les sujets de sexe masculin et 83 % pour les sujets de sexe féminin sont même atteignables dans le cas où l’intelligence artificielle reçoit cinq photographies à scanner par individu. Ces pourcentages surpassent ceux obtenus par des juges humains avec 61 % de prédictions correctes pour des sujets de sexe masculin contre 54 % pour ce qui est des sujets de sexe féminin.

Structure faciale et orientation sexuelle seraient liées

L’intelligence artificielle développée par les chercheurs ne ferait qu’extraire et analyser des caractéristiques faciales déterminées depuis le fœtus pour tirer son verdict. Le degré d’exposition à différents types d’hormones dont la testostérone en particulier, aurait un impact important sur la structure faciale d’un individu, l’une des conséquences étant qu’un homme gay présente une structure faciale plus féminine qu’un homme hétéro, la tendance inverse étant observée avec le genre féminin. La taille du menton, de la mâchoire, des sourcils, la longueur du nez ou la largeur du front sont autant de traits utilisés ici pour aboutir à ces conclusions. Un « petit » menton, une « petite » mâchoire, des sourcils fins, un long nez et un large front détectés sur la photo d’un homme permettent de le classer comme gay en comparaison à un autre homme hétéro.

Au-delà du caractère relativement discutable des critères évoqués, il faudrait noter que l’étude ne concerne que des personnes de race blanche. De plus, pas de prise en compte des cas d'individus bisexuels.

De sérieuses implications pour la vie privée

« Nos travaux montrent que les visages sont porteurs de beaucoup plus d’informations à propos de l’orientation sexuelle qu’un cerveau humain ne peut percevoir et interpréter », écrivent les chercheurs. Un véritable problème pour la vie privée quand on voit le degré de pénétration du numérique dans le quotidien des individus. Avec des milliards d’images faciales stockées en ligne sur des réseaux sociaux ou dans des bases de données gouvernementales, il n’est pas exclu qu’une telle IA soit reproduite pour détecter l’orientation sexuelle des individus.

Les chercheurs mettent d’ailleurs de l’emphase sur le fait que la technologie est déjà utilisée par certains gouvernements à ces fins. Leur recherche a donc pour but de prévenir le public des dangers auquel il s’expose et dans la mesure du possible en appeler à une forme de régulation.

Sources : Publication (PDF), commentaire des auteurs

Et vous ?

Qu’en pensez-vous ?
Quel commentaire faites-vous particulièrement du lien entre structure faciale et orientation sexuelle ?

Voir aussi :

Qui devra être tenu pour responsable si une intelligence artificielle fait un mauvais diagnostic induisant un médecin en erreur ?
Google utilise l'intelligence artificielle pour détecter la rétinopathie diabétique qui expose près de 415 millions de diabétiques à la cécité

[Invité]

Qu’en pensez-vous ?

Que ces chercheurs sont des autistes, que publier ça à l'heure actuel est criminels. Dommage que ces chercheurs ne soient pas capable de comprendre que la majorité des humains de cette planète sont plus proche du macaque que de l'homme avec tout ce que ça implique. Ne pas oublier que 85% de cette planète est encore convaincu de l'existence d'un dieu (voir plusieurs).

[SuperLow]

Ce n'est pas une IA mais un programme qui se base sur les données de centaines de personne pour établir une statistiques.
On n'a jamais appelé IA un programme capable de reconnaitre des caractères alpha numérique ...

Un IA a conscience d'elle même, un programme ou une pantoufle non.

Et encore une fois, les auteurs de ce programme de reconnaissance faciale ne parle pas d'IA, seulement les rédacteurs de developpez.net parle d'IA.

[pokap]

Un IA a conscience d'elle même

Il n'y a pas de rapport entre la conscience et l'intelligence.

Sinon je cherche l'intérêt de vouloir développer un système qui reconnait l'orientation sexuelle en fonction du visage.
Pourquoi pas savoir s'il est susceptible d'être dangereux ou naif aussi ?

[Excellion]

Ri-di-cule. Et encore, c'est un euphémisme.
Tout ce qu'on peut apprendre en regardant une photo est ... que c'est une photo.

Donc un instantané d'une personne dans un point précis de l'espace et du temps. Et si on vous juge sur votre photo d'identité, tout ce qu'on peut émettre comme hypothèse est que vous devez sortit de prison...

Cela n'est pas sans rappeler le nazisme et leurs méthodes pseudo-scientifiques pour discriminer une personne sur des traits raciaux supposés.

[kopbuc]

Ce n'est pas une IA mais un programme qui se base sur les données de centaines de personne pour établir une statistiques.
On n'a jamais appelé IA un programme capable de reconnaitre des caractères alpha numérique ...

Un IA a conscience d'elle même, un programme ou une pantoufle non.

Et encore une fois, les auteurs de ce programme de reconnaissance faciale ne parle pas d'IA, seulement les rédacteurs de developpez.net parle d'IA.

Tu vas nous sortir ce commentaire sur chaque article parlant d'IA ?

https://www.developpez.net/forums/d1...s/#post9583376

[Matthieu Vergne]

VGG-Face (c’est le nom de l’IA développée par les chercheurs) a été entrainée à partir d’un lot de 35 000 images faciales obtenues à partir de profils publics de sites de rencontre américains. À partir du scan d’une seule photo, elle est capable de faire une prédiction correcte de l’orientation sexuelle d’un sujet de sexe masculin (gay ou hétéro) dans 81 % des cas contre 74 % pour ce qui est des sujets de sexe féminin (lesbienne ou hétéro).

Corrections :
- les images ne sont tirées que d'un seul site de rencontre
- l'algo (épargnez-moi "l'IA" svp) ne reconnaît pas l'orientation sexuelle d'une personne, mais établit un ordre entre 2 personnes dont on sait à l'avance que l'une est homo et l'autre non

Ajouts :
- les images ne concernent que des profils de 18 à 40 ans (mais distribution et impact des âges peu détaillés)
- un profil homo/hétéro est identifié en fonction de ce qu'il annonce (si recherche du même genre, alors homo, sinon hétéro)
- les datasets homo/hétéro sont de même tailles (7388 individus chacun), très important pour évaluer les biais d'un algo de classification
- les datasets homme/femme sont de tailles similaires (7894 vs. 6882)
- les images ne sont pas exclusivement des images faciales style carte d'identité, ça vient d'une BDD bien plus large (~300K images) réduite à des photos où la reconnaissance faciale ne détecte qu'un seul visage, complet, pas trop petit, avec une inclinaison pas trop grande (critères exactes dans l'article). Il semble notamment que porter une casquette de base-ball ait son importance...

Des pourcentages de 91 % pour les sujets de sexe masculin et 83 % pour les sujets de sexe féminin sont même atteignables dans le cas où l’intelligence artificielle reçoit cinq photographies à scanner par individu.

Là par contre, 5 images ce n'est possible que pour 1260 individus (710 homos + 550 hétéros), soit 8.5% de la population. Mais vu à quel point ils ciblent un profil particulier (caucasien, vivant aux US, etc.) c'est plus une preuve de concept qu'une vrai expérimentation scientifique, où on cherche à répondre à une question de manière un minimum fiable. En l'occurrence, ce ne sont pas des images de type "caméra de surveillance", et les profils limités ne permettent pas de tirer de conclusion généralisable. Je ne remettrai pas par contre en cause les conclusions quant à la vie privée et la capacité supérieure de l'algo sur l'humain.

En mettant de côté le côté très limité de la BDD, ce qui me turlupine le plus est le choix de la méthode d'évaluation, qui se base non pas sur déterminer l'orientation sexuelle d'une personne (booléen homo/hétéro) mais sur ordonner une paire de personnes (booléen gauche/droite), ce qui est beaucoup plus facile. En effet, dès lors qu'on a 50.0001/49.9999, le premier est considéré homo, alors que l'interprétation la plus plausible est que l'algo n'en a pas la moindre idée. Ce qui rend la donne facile est qu'on retire tous les cas où ces nombres proches se justifient, c'est à dire les cas où les deux personnes ont la même orientation, cas où l'algorithme est censé retourner exactement 50/50 mais où il retourne probablement quelque chose de différent mais proche. On se garde donc de réduire la performance de l'algo sur les évaluations les plus difficiles. Si on prend donc 2 personnes dans la rue au hasard, sans savoir a priori leur orientation sexuelle, il y a fort à parier que l'algo fera énormément d'erreur, parce qu'il devait de toute façon en choisir une pour être homo et l'autre hétéro (et même si toutes les études sont encore à faire, je part du principe qu'on a bien moins que 50% d'homo dans le monde, pour des raisons purement darwiniennes). Et comme choisir un ordre sur 2 personnes plutôt qu'un simple booléen homo/hétéro, je ne pense pas que ça tombe par hasard, je penche pour un choix permettant de meilleures chances de publication. Choisir d'évaluer séparément hommes et femmes joue d'ailleurs probablement aussi en leur faveur, vu que justement les homos semblent avoir des caractères physiques plus proches du genre opposé (voir de l'androgynie), ce qui rendrait dès lors difficile de dire si une personne est homo d'un genre ou hétéro du genre opposé.

Il est à noter que l'article fait part d'un certain nombre de réserves à la fin, ce que je salue (ça n'aurait pas été accepté pour publication sinon), mais je ne trouve rien au sujet du choix d'utiliser des paires ordonnées plutôt que des booléens homo/hétéro, ce que je déplore.

[RyzenOC]

la meme chose mais pour savoir si la personne est juive ou pas SVP

j'ai lu l'article original, comme l'a dit Matthieu Vergne, c'est loins d’être un algo fiable.
Maintenant avec une BDD de 2 milliards d’individus avec au moins 10photos/individus on peut peut-etre en tirer de grande tendances ? qui a dit Facebook

Sinon, l'analyse du visage existe déjà cela s’appelle la Morphopsychologie, avec la fiabilité que l'on connait sinon vous avez la graphologie aussi, une autre fumisterie...
bientôt une "IA" capable de savoir si vous êtes gay en fonction de votre écriture ? la bdd de l'éducation national piraté

ce qui m’inquiète c'est qu'a terme certains recruteur utilise ce genre de procédé, des algos d'analyse du visage, de l'écriture, de ta façon de respirer.... je sais déjà que la graphologie est utilisé par certains recruteurs en secret évidement, le procédé n'étant pas très légale. Mon ancienne école d'ingénieur, l’utilisait il y'a plus de 8ans, elle payait un graphologue pour analyser les lettres de motivation.

[dourouc05]

l'algo (épargnez-moi "l'IA" svp)

Est-ce vraiment un "algo" au sens habituel ? C'est plutôt un réseau neuronal, donc une architecture de neurones et des poids pour les liens entre ces neurones : l'ordinateur fait le gros du travail d'implémentation…

[captaindidou]

Le gouvernement tchétchène et iranien ont manifesté un vif intérêt pour cette invention.

[Matthieu Vergne]

Est-ce vraiment un "algo" au sens habituel ? C'est plutôt un réseau neuronal, donc une architecture de neurones et des poids pour les liens entre ces neurones : l'ordinateur fait le gros du travail d'implémentation…

Si je prends Larousse pour référence, un algorithme est un :

Ensemble de règles opératoires dont l'application permet de résoudre un problème énoncé au moyen d'un nombre fini d'opérations. Un algorithme peut être traduit, grâce à un langage de programmation, en un programme exécutable par un ordinateur.

Un système neuronal reste un algorithme, suivant des règles opératoires (sur la mise en place et l'évolution du réseau) dont l'application permet de résoudre un problème d'apprentissage machine au moyen d'un nombre fini d'opérations (le critère "fini" étant nécessairement satisfait pour des raisons pratiques). Je ne nierai donc pas qu'on se trouve à un niveau assez haut, mais il n'en reste pas moins qu'on parle là d'une procédure entièrement programmée, qui peut donc s'écrire sous forme d'algorithme et être implémentée sous forme de programme.

[koyosama]

Je n'aime du tout ou la recherche va. Ou plutot, a quoi il va servir.

[sergio_is_back]

Beaucoup nous vendent de l'IA en ce moment (c'est la mode) mais aucun n'a d'échantillon en stock....

[tmcuh]

Je pense plutôt que l'étude scientifique ici est de déterminé qu'il est possible de le faire, un peu comme les chercheurs en sécurités qui trouvent des failles.
Ça permet aux gens de se rendre compte ce que les gouvernements radicaux peuvent engendrer contre sa population.
Et quand le grand généticien Jacquard disait dans les années 90, qu'on est en train de sélectionner les gens les plus dangereux, il avait pas tord. On cours vers une forme d'eugénisme , de catégoriser la population pour créer cette forme parfaite d'homme toujours plus méchant.

C'est marrant car je me voyais gosse avec des lunettes qui me permettrait de voir les sentiments des gens, c'est ce vers quoi on va 20 plus-tard...

[koyosama]

Beaucoup nous vendent de l'IA en ce moment (c'est la mode) mais aucun n'a d'échantillon en stock....

L'AI c'est vieux comme le monde. C'est juste remis au gout du jour car le deep learning est plus evolue, car les capteurs sont plus evolue, car le reseau internet est plus grand, car le stokage d'information est plus important. Il a donc plus d'impact aurjourd'hui. Et puis c'est le domaine qui a encore de l'avenir. Hier c'etait le big data, maintenant on nous dit que le big data c'est pas pour tout le monde. Avant hier c'etait le NoSQL et on sent compte que le SQL quand il est mal utilise c'est du kik ou lol. Je vois le concept de programmation fonctionnel, programmation parallele alors que c'est vieux ...
Mais le concept d'AI existe depuis des lustres.

L'AI c'est le meme probleme que Xerox quand il a cree l'ordinateur avec interface graphique. C'est a dire qu'on voulait supprimer le papier et final c'est le contraire. L'AI resout le probleme idiot qu'on voulait resoudre, c'est la surchage de communication et le management d'information. Mais on s'est rendu compte qu'on genere 5000x plus de d'informations et qu'il faut autant voir plus pour le travail d'autrefois dans un monde qui va plus vite. Donc sa a creer les problemes comme la formation des personnes et le cout. L'AI c'est la revolution des riches pour virer tout le monde.

Apres demain, on va nous dire qu'on a reveinte l'email ou IRC ou meme le peer to peer. Ah zut,ils ont invente slack . Parce que demain on aura besoin d'un nouvel internet parce que tous les gouvernements on filtre internet. Les pro sites porn, pedo, nazi, fashisme, young hacker vont se coordonnes pour le faire. Aujourd'hui pourquoi personne ne fait. Apres etre rentre en France, j'ai vu ou etait le probleme et qui va etre resolu demain, c'est qu'on a pas la fibre. IOT va exploser quand le monde aura un meilleur reseau, on va aussi remettre le cloud gouvernemental au gout du jour. Des concepts qui etaient lie a la vitesse, au data et zone geographique vont etre repris demain.

En fait, on va nous rabacher qui ont pas marcher dans le passe car la technologie n'etait pas encore prete ou trop experimental. Il suffit juste de voir tous les papiers scientifiques pour voir ce que le monde de demain.
Meme dans le monde loigiciel, c'est que la reutilisation de concept qui a existe.

C'est sa la disruption. L'inovation c'est le gars qu'on a foutu qu placard et qu'on resort quand on a besoin.

[Ryu2000]

Qu’en pensez-vous ?

C'est n'importe quoi

Et comme ça marche quand une personne homosexuelle devient hétérosexuelle ou inversement, le visage se met à jour ^^ ?
Je ne suis pas un spécialiste du truc, mais il me semble que ça arrive que l'orientation sexuelle change.

Je sortirai bien une blague de Coluche, mais aujourd'hui elle passe moins bien ^^

"En ce qui me concerne, l’homosexualité a été une erreur": Ces propos de Patrick Dupond divisent
Pierre Palmade : "Je suis triste d'être homo"

la meme chose mais pour savoir si la personne est juive ou pas SVP

Alors là par contre ça pourrait avoir un peu plus de sens.
Parce que pour certains juifs, la judéité se transmet par le sang de la mère.
Il y a une histoire de peuple élu, tout ça.

On peut par exemple faire un test ADN pour savoir si on est juif :
Suis-je Juif? Tests génétiques pour ascendance juive (ADN) - iGENEA

Etes-vous juif?
Avez-vous des racines juives? Etes-vous ashkénaze ou séfarade? Etes-vous un Levi ou un Cohen?

Un test ADN par iGENEA vous permettra de préciser une éventuelle origine juive. Selon vos caractéristiques génétiques spécifiques, nous pouvons déterminer si vous êtes d'origine juive, et à quelle lignée appartient votre origine juive (paternelle, maternelle ou les deux) et même dans quelle proportion vous êtes juif. De plus votre profil sera comparé à plus de 700 000 personnes dans notre base de données. Si nous trouvons un match génétique, c'est à dire, des gens avec qui vous correspondez génétiquement, vous aurez la possibilité d'entrer en contact avec ces personnes et d'approfondir votre recherche généalogique.

Apparemment beaucoup d'études ont été fait :
Études génétiques sur les Juifs

[Farlgerann]

Old geek : la religion n a absolument aucun lien avec cet article; sans compter que croire ou pas en un ou plusieurs dieu n'influe pas sur l'intelligence

Concernant ce projet, je trouve ça inutile; beaucoup trop de façon de mal l utiliser et je vois pas comment une photo prise sur l instant peut déterminer son orientation... Sans compter que ca peut etre un choix...

[AoCannaille]

Et comme ça marche quand une personne homosexuelle devient hétérosexuelle ou inversement, le visage se met à jour ^^ ?
Je ne suis pas un spécialiste du truc, mais il me semble que ça arrive que l'orientation sexuelle change.

A vrai dire, il faut bien séparer le comportement sexuel et l'orientation sexuelle. Le comportement changerait, pas l'orientation.

cf.

Personnellement, je ne vois pas l'utilité de ce projet. Je n'arrive à imaginer aucune application utile à la société, par contre j'en imagine aisément des mauvaises et discriminatoires (par nature!)

PS : J'essaye de ne pas vous imposer ce lecteur intégré, gachis d'espace incroyable, mais visiblement faire un lien simple youtube n'est juste plus possible...

[abriotde]

publier ça à l'heure actuel est criminels

On se croirait avec une réaction de personne ayant peur de la machine à vapeur parce qu'elle fait du bruit, qu'elle peux exploser et change les conditions de travail (en bien comme en mal)...
Oui ce programme peut-être mal utiliser, mais il peux aussi être bien utilisé. Mais peux importe en sois, l'important c'est ce que l'on apprends sur nous même et sur le monde. N'est-ce pas passionnant de savoir si oui ou non le taux de testostérone agit à ce point sur notre orientation sexuel ou si le désir transgenre peux se voir simplement parce qu'on l'a voulu? Est-ce notre corps, notre génétique, qui influence ou notre psychisme influencé par notre vécut? Et puis n'est ce pas une manière de montrer éventuellement que l'homo-sexualité à bien un fondement biologique et n'est pas seulement dû au fait d'être perturbé psychologiquement?

En application on peux imaginer tellement de bénéfices. Ne pourrais t'on pas arriver a poser une analyse psychiatrique pour aider des personne à découvrir un comportement refoulé? Ou inversement est-ce que les exceptions (les cas d'erreur de l'IA) ne montrent pas une autre facette plus complexe de notre psychique et / ou de notre physiologie? La police elle même pourrait en apprendre un peu plus pour orienter ses recherches...

Bref, on s'en fiche de savoir si c'est une IA ou un algorithme. C'est un programme qui apprends a reconnaître de manière "rationnel" les traits de l'orientation sexuelle (aucune règle psychiatrique ne permet à un humain de le savoir). Il s'agi d'une nouvelle avancé scientifique et comme toute avancé elle soulève espoir et crainte surtout chez les ignares (dans les 2 sens car ils se passionnent trop).

[abriotde]

le visage se met à jour

Seul l'étude le démontrera mais de toute manière le but ne sera jamais d'identifier un homo a coup sûr. Il y a bien trop de paramètres à prendre en compte.

Mais si comme le suggère l'étude cela dépends du taux d'hormone (testostérone), alors, oui le visage se met a jour. Il est assez courant que suite à un problème quelconque (maladie, traitement, ménopause, chirurgie... ) les taux d'hormones change et alors le les effet se font sentir (caractère, pilosité, glotte, musculature ...) et souvent même au niveau morphologique.