Discussion :

[Patrick Ruiz]

Des chercheurs développent une IA capable de déterminer si un sujet est gay ou hétéro
À partir de photos de son visage

Des chercheurs de l’université de Standford ont utilisé des algorithmes d’apprentissage profond pour montrer que l’intelligence artificielle est meilleure que les humains pour déterminer l’orientation sexuelle d’un sujet à partir d’une photo. Au-delà du caractère scientifique de ses travaux, l’équipe de recherche voit l’IA qu’elle a mise sur pied comme un moyen de prévenir la communauté des lesbiennes, gays, bisexuels et transgenres des dangers qu’elle coure au quotidien.

VGG-Face (c’est le nom de l’IA développée par les chercheurs) a été entrainée à partir d’un lot de 35 000 images faciales obtenues à partir de profils publics de sites de rencontre américains. À partir du scan d’une seule photo, elle est capable de faire une prédiction correcte de l’orientation sexuelle d’un sujet de sexe masculin (gay ou hétéro) dans 81 % des cas contre 74 % pour ce qui est des sujets de sexe féminin (lesbienne ou hétéro).

Des pourcentages de 91 % pour les sujets de sexe masculin et 83 % pour les sujets de sexe féminin sont même atteignables dans le cas où l’intelligence artificielle reçoit cinq photographies à scanner par individu. Ces pourcentages surpassent ceux obtenus par des juges humains avec 61 % de prédictions correctes pour des sujets de sexe masculin contre 54 % pour ce qui est des sujets de sexe féminin.

Structure faciale et orientation sexuelle seraient liées

L’intelligence artificielle développée par les chercheurs ne ferait qu’extraire et analyser des caractéristiques faciales déterminées depuis le fœtus pour tirer son verdict. Le degré d’exposition à différents types d’hormones dont la testostérone en particulier, aurait un impact important sur la structure faciale d’un individu, l’une des conséquences étant qu’un homme gay présente une structure faciale plus féminine qu’un homme hétéro, la tendance inverse étant observée avec le genre féminin. La taille du menton, de la mâchoire, des sourcils, la longueur du nez ou la largeur du front sont autant de traits utilisés ici pour aboutir à ces conclusions. Un « petit » menton, une « petite » mâchoire, des sourcils fins, un long nez et un large front détectés sur la photo d’un homme permettent de le classer comme gay en comparaison à un autre homme hétéro.

Au-delà du caractère relativement discutable des critères évoqués, il faudrait noter que l’étude ne concerne que des personnes de race blanche. De plus, pas de prise en compte des cas d'individus bisexuels.

De sérieuses implications pour la vie privée

« Nos travaux montrent que les visages sont porteurs de beaucoup plus d’informations à propos de l’orientation sexuelle qu’un cerveau humain ne peut percevoir et interpréter », écrivent les chercheurs. Un véritable problème pour la vie privée quand on voit le degré de pénétration du numérique dans le quotidien des individus. Avec des milliards d’images faciales stockées en ligne sur des réseaux sociaux ou dans des bases de données gouvernementales, il n’est pas exclu qu’une telle IA soit reproduite pour détecter l’orientation sexuelle des individus.

Les chercheurs mettent d’ailleurs de l’emphase sur le fait que la technologie est déjà utilisée par certains gouvernements à ces fins. Leur recherche a donc pour but de prévenir le public des dangers auquel il s’expose et dans la mesure du possible en appeler à une forme de régulation.

Sources : Publication (PDF), commentaire des auteurs

Et vous ?

Qu’en pensez-vous ?
Quel commentaire faites-vous particulièrement du lien entre structure faciale et orientation sexuelle ?

Voir aussi :

Qui devra être tenu pour responsable si une intelligence artificielle fait un mauvais diagnostic induisant un médecin en erreur ?
Google utilise l'intelligence artificielle pour détecter la rétinopathie diabétique qui expose près de 415 millions de diabétiques à la cécité

[Invité]

Qu’en pensez-vous ?

Que ces chercheurs sont des autistes, que publier ça à l'heure actuel est criminels. Dommage que ces chercheurs ne soient pas capable de comprendre que la majorité des humains de cette planète sont plus proche du macaque que de l'homme avec tout ce que ça implique. Ne pas oublier que 85% de cette planète est encore convaincu de l'existence d'un dieu (voir plusieurs).

[Chauve souris]

Que ces chercheurs sont des autistes, que publier ça à l'heure actuel est criminels. Dommage que ces chercheurs ne soient pas capable de comprendre que la majorité des humains de cette planète sont plus proche du macaque que de l'homme avec tout ce que ça implique. Ne pas oublier que 85% de cette planète est encore convaincu de l'existence d'un dieu (voir plusieurs).

N'oublions pas que dans ces pays nanti d'un dieu d'amour les homosexuels sont des abominations (Tchétchènie, Russie, Iran, tous les pays musulmans, tous les pays d'Afrique noire, etc.) et que mettre un tel outil dans les pattes de certaines polices (chez nous il y avait "la mondaine") est pour le moins discutable même si ce n'est pas dans l'intention de leurs auteurs.

Rien qu'en France rappelez-vous les manifestations hystériques contre le mariage homo comme si ça allait retirer quoi que ce soit au mariage hétéro.

Paradoxalement ce sont dans les pays pourtant très catholiques d'Amérique du Sud : Brésil, Argentine (et son pape plus soucieux des musulmans que des chrétiens qui sont massacrés dans ces pays du Moyen-orient), Uruguay, Colombie et, bientôt, Chili que le mariage gay est passé sans même que le clergé avale une hostie de travers.

[Chauve souris]

Bon je vois que nous avons affaire à des forts en maths, ce qui est normal dans un forum IT alors que moi, à ce niveau je suis plutôt un cancre las.

Aussi je voudrais pouvoir aborder la question par le biais des sciences humaines, depuis la philosophie : les mots que l'on emploie réfèrent-ils bien au réel, ce qui a permis à Jacques Lacan d'affirmer que le réel est l'impossible à supporter, tout simplement parce qu'il est trop plein de signifiants et que, en exclure, introduit le concept de castration (symbolique, je vous rassure). Ce que disait simplement Alfred Korzybski en rappelant que "la carte n'est pas le territoire" ou, plus trivialement, Léo Ferré affirmant : "les mots que vous employez n'étant plus les mots, mais une sorte de conduits avec lesquels les analphabètes se font bonne conscience". C'est ce qu'on appelle la doxa. Il n'y a qu'à voir ce qu'on appelle par "pédophilie" pour s'en convaincre, mais là n'est pas le sujet du jour.

Un petit point cependant que souligne Max Bird c'est la trouille des parents sur le seul mot d'homosexualité qu'il faudrait à tout prix dissimuler à leurs progénitures de peur qu'elles l'attrapent encore plus facilement qu'une maladie contagieuse. Un présupposé d'une attraction, d'un désir qui serait consubstantiellement lié à l'homosexualité comme l'avait analysé mon vieux maître (je rigole mais il avait un an de moins que moi) Guy Hocquenghem dans son premier livre "le désir homosexuel" où il aborde ce point. Le psychanalyste américain Greenson affirme que les désirs homosexuels refoulés sont la principale constante qu'il observe sur ses patients hommes.

Autre point qui tempère l'analyse morphologique c'est le caractère que j'appellerais yin/yang de la sexualité. Les purs hétéros tout comme les purs homos sont bien rares et ce n'est pas pour rien que Dame Nature a quelque peu androgyné nos corps et il ne faut pas s'étonner que cela transparaisse aussi dans la psychologie.

Mais, ces constatations faites, il faut revenir au social. Rare et même très rares sont les sociétés où un homme ne peut être accepté autrement que hétéro et, même, il faudra qu'il en rajoute dans les "sexual roles". Parmi ces exceptions on peut citer certaines tribus d'Amazonie chez qui même, pour rigoler un peu sur l'interdit à la mode : la "pédophillie", les relations de n'importe quel type sont libres à partir de l'âge où on en a envie, donc à partir de 12 ans.

Donc je doute qu'une étude morphologique pourra apporter un point qualitatif sur quelque chose qui, outre la dimension quantitative, est toute en nuance selon les registres de l'inconscient et du conscient.

Autre point qui cloche, car j'en ai rencontré pas mal et ça a failli être mon sujet de thèse si j'avais continué en sciences humaines, ceux qui "ont viré leur cuti". Autant l'homo "classique" est conscient de sa préférence sexuelle dès la maternelle, autant il y en a qui ont joué le rôle hétéro en toute honnêteté (donc ce ne sont pas des "honteuses") jusqu'au moment où ils ont conclu que ce n'était pas leur nature profonde. Rien de réactionnel au demeurant pour la plupart, ils pouvaient avoir d'excellents rapports avec leur compagne mais...

L'inverse, par contre, ne semble pas exister. Ce qui est explicable car le conditionnement social va dans le sens hétéro, mais jamais homo. On exclue de cette spaltung les bisexuels qui sont, naturellement, comme on dit, "à voile et à vapeur" mais que le conditionnement social empêche d'assumer leur part homo.

Bref tout ça introduit une complexité, la "dialectique du vivant", et je doute que cette observation morphologique soit bien significative. Déjà que c'est bien difficile à un psychothérapeute de terrain de le démêler d'un patient bloqué.

Petite anecdote pour finir sur le thème "L'homosexualité c'est pas naturel". Dans je ne sais plus quelle réserve animalière leurs propriétaires étaient très fiers d'avoir une espèce rare de vautour. Lesquels se reproduisaient sans trop de souci. Toutefois, un jour, ils voient un oeuf abandonné sur le terrain. Les soigneurs tentent de le placer à des couples "normaux" mais ceux-ci n'en veulent pas. En désespoir de cause ils mettent cet oeuf dans le nid d'un couple de vautour gays. Ceux-ci un peu perturbés se décident à le couver et se relayent pour cela. Une fois éclos le poussin a eu son infâme viande mâchouillée, si je peux dire, par les deux parents adoptifs et s'est très bien développé.

[Jipété]

[...] plus trivialement, Léo Ferré affirmant : "les mots que vous employez n'étant plus les mots, mais une sorte de conduits avec lesquels les analphabètes se font bonne conscience".

« Biologiquement, je m´arrange avec l´idée que je me fais de la biologie : je pisse j'éjacule je pleure
Il est de toute première instance que nous fabriquions nos idées comme s'il s'agissait d'objets manufacturés. »

in La Solitude, album mythique avec Zoo, sorti en '71.

Désolé, j'ai pas pu résister

(et ça ne nous rajeunit pas -- mais ça fait plaisir !)

[SurferIX]

QNe pas oublier que 85% de cette planète est encore convaincu de l'existence d'un dieu (voir plusieurs).

Ce n'est pas être convaincu de l'existence d'un Dieu qui importe, c'est de croire en quelque chose tout court dont notre cerveau a besoin. Si tu n'as pas compris ça, et au travers du mépris que tu affiche dans ton post tu mérite encore bien plus de downs, même si tu en as déjà énormément.

[Chauve souris]

Ce n'est pas être convaincu de l'existence d'un Dieu qui importe, c'est de croire en quelque chose tout court dont notre cerveau a besoin.

Oui, ça s'appelle le déisme et c'est la prédisposition psychopathologique pour accéder aux religions qui, elles, sont du domaine sociologique. Donc il y a ceux qui ont besoin d'un dieu et ceux qui n'en ont pas besoin. C'est comme les névroses ça ne met pas en cause l'intelligence de la personne. Moi je suis comme Laplace : "je n'ai pas eu besoin de cette hypothèse".

[fig77]

Oui, ça s'appelle le déisme et c'est la prédisposition psychopathologique pour accéder aux religions qui, elles, sont du domaine sociologique. Donc il y a ceux qui ont besoin d'un dieu et ceux qui n'en ont pas besoin. C'est comme les névroses ça ne met pas en cause l'intelligence de la personne. Moi je suis comme Laplace : "je n'ai pas eu besoin de cette hypothèse".

Tu te trompe, il voulait dire que nous avons besoin de croire en quelque chose, pas seulement en Dieu.
La preuve, tu crois que Dieu n'existe pas, par exemple, ce qui est, en absence de preuve, tout aussi irrationnel que de croire qu'il existe.

Mais dans un autre ordre, quand tu prends un médicament, tu crois que cela va te guérir, alors même que tu ne sais pas réellement ce qui est dedans.
Bref, on a tous besoin de croire pour vivre, parce qu'on ne peut pas TOUT vérifier par soi même. Pour notre équilibre psychologique, on ne peut pas remettre en cause tout ce qu'on nous dit. (un homme en blouse blanche, un autre en salopette pleine de cambouis... )

Toutes choses étant égales, un déiste vit sans doute plus sereinement qu'un athée et ça ne dépend pas du fait qu'il ait à tord ou raison. Croire que sa vie à un but plus grand que soi même ou/et se croire protégé de manière surnaturelle, ça aide à traverser les douleurs de l’existence.

Ce hors sujet étant fait et pour en revenir au fil, l'homosexualité n'est pas seulement lié aux hormones donc à d'éventuelles structures du visage. Elle peut aussi être d'ordre psychiatrique (et oui, un viol peut entraîner cela) et culturel (et oui en grèce antique les hommes étaient bisexuels et ne se posaient pas de question à ce sujet)

[SuperLow]

Ce n'est pas une IA mais un programme qui se base sur les données de centaines de personne pour établir une statistiques.
On n'a jamais appelé IA un programme capable de reconnaitre des caractères alpha numérique ...

Un IA a conscience d'elle même, un programme ou une pantoufle non.

Et encore une fois, les auteurs de ce programme de reconnaissance faciale ne parle pas d'IA, seulement les rédacteurs de developpez.net parle d'IA.

[pokap]

Un IA a conscience d'elle même

Il n'y a pas de rapport entre la conscience et l'intelligence.

Sinon je cherche l'intérêt de vouloir développer un système qui reconnait l'orientation sexuelle en fonction du visage.
Pourquoi pas savoir s'il est susceptible d'être dangereux ou naif aussi ?

[kopbuc]

Ce n'est pas une IA mais un programme qui se base sur les données de centaines de personne pour établir une statistiques.
On n'a jamais appelé IA un programme capable de reconnaitre des caractères alpha numérique ...

Un IA a conscience d'elle même, un programme ou une pantoufle non.

Et encore une fois, les auteurs de ce programme de reconnaissance faciale ne parle pas d'IA, seulement les rédacteurs de developpez.net parle d'IA.

Tu vas nous sortir ce commentaire sur chaque article parlant d'IA ?

https://www.developpez.net/forums/d1...s/#post9583376

[Excellion]

Ri-di-cule. Et encore, c'est un euphémisme.
Tout ce qu'on peut apprendre en regardant une photo est ... que c'est une photo.

Donc un instantané d'une personne dans un point précis de l'espace et du temps. Et si on vous juge sur votre photo d'identité, tout ce qu'on peut émettre comme hypothèse est que vous devez sortit de prison...

Cela n'est pas sans rappeler le nazisme et leurs méthodes pseudo-scientifiques pour discriminer une personne sur des traits raciaux supposés.

[Matthieu Vergne]

VGG-Face (c’est le nom de l’IA développée par les chercheurs) a été entrainée à partir d’un lot de 35 000 images faciales obtenues à partir de profils publics de sites de rencontre américains. À partir du scan d’une seule photo, elle est capable de faire une prédiction correcte de l’orientation sexuelle d’un sujet de sexe masculin (gay ou hétéro) dans 81 % des cas contre 74 % pour ce qui est des sujets de sexe féminin (lesbienne ou hétéro).

Corrections :
- les images ne sont tirées que d'un seul site de rencontre
- l'algo (épargnez-moi "l'IA" svp) ne reconnaît pas l'orientation sexuelle d'une personne, mais établit un ordre entre 2 personnes dont on sait à l'avance que l'une est homo et l'autre non

Ajouts :
- les images ne concernent que des profils de 18 à 40 ans (mais distribution et impact des âges peu détaillés)
- un profil homo/hétéro est identifié en fonction de ce qu'il annonce (si recherche du même genre, alors homo, sinon hétéro)
- les datasets homo/hétéro sont de même tailles (7388 individus chacun), très important pour évaluer les biais d'un algo de classification
- les datasets homme/femme sont de tailles similaires (7894 vs. 6882)
- les images ne sont pas exclusivement des images faciales style carte d'identité, ça vient d'une BDD bien plus large (~300K images) réduite à des photos où la reconnaissance faciale ne détecte qu'un seul visage, complet, pas trop petit, avec une inclinaison pas trop grande (critères exactes dans l'article). Il semble notamment que porter une casquette de base-ball ait son importance...

Des pourcentages de 91 % pour les sujets de sexe masculin et 83 % pour les sujets de sexe féminin sont même atteignables dans le cas où l’intelligence artificielle reçoit cinq photographies à scanner par individu.

Là par contre, 5 images ce n'est possible que pour 1260 individus (710 homos + 550 hétéros), soit 8.5% de la population. Mais vu à quel point ils ciblent un profil particulier (caucasien, vivant aux US, etc.) c'est plus une preuve de concept qu'une vrai expérimentation scientifique, où on cherche à répondre à une question de manière un minimum fiable. En l'occurrence, ce ne sont pas des images de type "caméra de surveillance", et les profils limités ne permettent pas de tirer de conclusion généralisable. Je ne remettrai pas par contre en cause les conclusions quant à la vie privée et la capacité supérieure de l'algo sur l'humain.

En mettant de côté le côté très limité de la BDD, ce qui me turlupine le plus est le choix de la méthode d'évaluation, qui se base non pas sur déterminer l'orientation sexuelle d'une personne (booléen homo/hétéro) mais sur ordonner une paire de personnes (booléen gauche/droite), ce qui est beaucoup plus facile. En effet, dès lors qu'on a 50.0001/49.9999, le premier est considéré homo, alors que l'interprétation la plus plausible est que l'algo n'en a pas la moindre idée. Ce qui rend la donne facile est qu'on retire tous les cas où ces nombres proches se justifient, c'est à dire les cas où les deux personnes ont la même orientation, cas où l'algorithme est censé retourner exactement 50/50 mais où il retourne probablement quelque chose de différent mais proche. On se garde donc de réduire la performance de l'algo sur les évaluations les plus difficiles. Si on prend donc 2 personnes dans la rue au hasard, sans savoir a priori leur orientation sexuelle, il y a fort à parier que l'algo fera énormément d'erreur, parce qu'il devait de toute façon en choisir une pour être homo et l'autre hétéro (et même si toutes les études sont encore à faire, je part du principe qu'on a bien moins que 50% d'homo dans le monde, pour des raisons purement darwiniennes). Et comme choisir un ordre sur 2 personnes plutôt qu'un simple booléen homo/hétéro, je ne pense pas que ça tombe par hasard, je penche pour un choix permettant de meilleures chances de publication. Choisir d'évaluer séparément hommes et femmes joue d'ailleurs probablement aussi en leur faveur, vu que justement les homos semblent avoir des caractères physiques plus proches du genre opposé (voir de l'androgynie), ce qui rendrait dès lors difficile de dire si une personne est homo d'un genre ou hétéro du genre opposé.

Il est à noter que l'article fait part d'un certain nombre de réserves à la fin, ce que je salue (ça n'aurait pas été accepté pour publication sinon), mais je ne trouve rien au sujet du choix d'utiliser des paires ordonnées plutôt que des booléens homo/hétéro, ce que je déplore.

[dourouc05]

l'algo (épargnez-moi "l'IA" svp)

Est-ce vraiment un "algo" au sens habituel ? C'est plutôt un réseau neuronal, donc une architecture de neurones et des poids pour les liens entre ces neurones : l'ordinateur fait le gros du travail d'implémentation…

[Matthieu Vergne]

Est-ce vraiment un "algo" au sens habituel ? C'est plutôt un réseau neuronal, donc une architecture de neurones et des poids pour les liens entre ces neurones : l'ordinateur fait le gros du travail d'implémentation…

Si je prends Larousse pour référence, un algorithme est un :

Ensemble de règles opératoires dont l'application permet de résoudre un problème énoncé au moyen d'un nombre fini d'opérations. Un algorithme peut être traduit, grâce à un langage de programmation, en un programme exécutable par un ordinateur.

Un système neuronal reste un algorithme, suivant des règles opératoires (sur la mise en place et l'évolution du réseau) dont l'application permet de résoudre un problème d'apprentissage machine au moyen d'un nombre fini d'opérations (le critère "fini" étant nécessairement satisfait pour des raisons pratiques). Je ne nierai donc pas qu'on se trouve à un niveau assez haut, mais il n'en reste pas moins qu'on parle là d'une procédure entièrement programmée, qui peut donc s'écrire sous forme d'algorithme et être implémentée sous forme de programme.

[koyosama]

Je n'aime du tout ou la recherche va. Ou plutot, a quoi il va servir.

[RyzenOC]

la meme chose mais pour savoir si la personne est juive ou pas SVP

j'ai lu l'article original, comme l'a dit Matthieu Vergne, c'est loins d’être un algo fiable.
Maintenant avec une BDD de 2 milliards d’individus avec au moins 10photos/individus on peut peut-etre en tirer de grande tendances ? qui a dit Facebook

Sinon, l'analyse du visage existe déjà cela s’appelle la Morphopsychologie, avec la fiabilité que l'on connait sinon vous avez la graphologie aussi, une autre fumisterie...
bientôt une "IA" capable de savoir si vous êtes gay en fonction de votre écriture ? la bdd de l'éducation national piraté

ce qui m’inquiète c'est qu'a terme certains recruteur utilise ce genre de procédé, des algos d'analyse du visage, de l'écriture, de ta façon de respirer.... je sais déjà que la graphologie est utilisé par certains recruteurs en secret évidement, le procédé n'étant pas très légale. Mon ancienne école d'ingénieur, l’utilisait il y'a plus de 8ans, elle payait un graphologue pour analyser les lettres de motivation.

[captaindidou]

Le gouvernement tchétchène et iranien ont manifesté un vif intérêt pour cette invention.

[sergio_is_back]

Beaucoup nous vendent de l'IA en ce moment (c'est la mode) mais aucun n'a d'échantillon en stock....

[koyosama]

Beaucoup nous vendent de l'IA en ce moment (c'est la mode) mais aucun n'a d'échantillon en stock....

L'AI c'est vieux comme le monde. C'est juste remis au gout du jour car le deep learning est plus evolue, car les capteurs sont plus evolue, car le reseau internet est plus grand, car le stokage d'information est plus important. Il a donc plus d'impact aurjourd'hui. Et puis c'est le domaine qui a encore de l'avenir. Hier c'etait le big data, maintenant on nous dit que le big data c'est pas pour tout le monde. Avant hier c'etait le NoSQL et on sent compte que le SQL quand il est mal utilise c'est du kik ou lol. Je vois le concept de programmation fonctionnel, programmation parallele alors que c'est vieux ...
Mais le concept d'AI existe depuis des lustres.

L'AI c'est le meme probleme que Xerox quand il a cree l'ordinateur avec interface graphique. C'est a dire qu'on voulait supprimer le papier et final c'est le contraire. L'AI resout le probleme idiot qu'on voulait resoudre, c'est la surchage de communication et le management d'information. Mais on s'est rendu compte qu'on genere 5000x plus de d'informations et qu'il faut autant voir plus pour le travail d'autrefois dans un monde qui va plus vite. Donc sa a creer les problemes comme la formation des personnes et le cout. L'AI c'est la revolution des riches pour virer tout le monde.

Apres demain, on va nous dire qu'on a reveinte l'email ou IRC ou meme le peer to peer. Ah zut,ils ont invente slack . Parce que demain on aura besoin d'un nouvel internet parce que tous les gouvernements on filtre internet. Les pro sites porn, pedo, nazi, fashisme, young hacker vont se coordonnes pour le faire. Aujourd'hui pourquoi personne ne fait. Apres etre rentre en France, j'ai vu ou etait le probleme et qui va etre resolu demain, c'est qu'on a pas la fibre. IOT va exploser quand le monde aura un meilleur reseau, on va aussi remettre le cloud gouvernemental au gout du jour. Des concepts qui etaient lie a la vitesse, au data et zone geographique vont etre repris demain.

En fait, on va nous rabacher qui ont pas marcher dans le passe car la technologie n'etait pas encore prete ou trop experimental. Il suffit juste de voir tous les papiers scientifiques pour voir ce que le monde de demain.
Meme dans le monde loigiciel, c'est que la reutilisation de concept qui a existe.

C'est sa la disruption. L'inovation c'est le gars qu'on a foutu qu placard et qu'on resort quand on a besoin.