Discussion :

[Stéphane le calme]

Google présente ses excuses pour un tag malheureux de son application Photos,
qui a identifié un couple d'afro-américains comme étant des gorilles

Google s’est confondu en excuses après que l’algorithme qui reconnait les visages et les situations de son application Google Photos ait commis l’impair de confondre un couple de Noirs avec des gorilles. Cette erreur a été rapportée par le développeur New Yorkais Jacky Alciné qui est l’une des deux personnes sur la photo. Il l’a signalé en publiant un tweet, preuve à l’appui, avec un petit message pour bien montrer son irritation « Google Photos, vous avez merdé. Mon amie n’est pas un gorille ».

Peu de temps après ce premier tweet, Google a réagi par l’entremise d’un de ses responsables Yonathan Zunger, lequel a reconnu sur le fil de discussion amorcé par Alciné que ce n’était pas du tout correct. Il a par la suite certifié que l’entreprise prenait des mesures afin que le problème ne survienne plus, précisant que des problèmes de ce type sont désormais « classés haut dans ma liste de bugs que vous ne voulez ‘jamais’ voir se produire ». Il a rajouté que Google « travaille également sur des corrections à long terme concernant à la fois la reconnaissance linguistique – les mots qu’il faut utiliser avec précaution une fois en face de photos de personnes – et la reconnaissance faciale elle-même – par exemple mieux reconnaître les visages à la peau foncée ».

Si ce n’est pas la première fois que Google Photos attribue le mauvais tag (Yonathan a rappelé que « nous avons eu un problème avec des gens -de toutes races- étant identifiés comme étant des chiens, pour des raisons similaires »), Google a cependant reconnu la sensibilité de cette dernière erreur. Dans une déclaration au quotidien BBC, un porte-parole de Google a avancé que « nous sommes consternés et sincèrement désolés que cela soit arrivé. Nous prenons des mesures immédiates pour prévenir ce genre d’erreur à l’avenir. Il y a manifestement encore beaucoup de travail à faire avec l’étiquetage automatique d’image (…) ».

Cependant Alciné a confié ses préoccupations à la BBC : « j’ai quelques questions, comme quel genre d’images et de personnes ont été utilisées dans leur amorçage initial qui a pu conduire à de tels résultats ? »

Source : BBC

[Askeridos]

Bah au moins, Google prouve que l'homme descend bien du singe !!!!

[herve4]

et la prochaine fois que le type ira au zoo et se prendra en photo avec un vrai singe, il va faire quoi Google ?

[Sodium]

La seule réaction saine me semble être de prendre ça avec le sourire. La technologie en est encore à ses débuts et des erreurs de ce genre sont inévitables.

[Paul TOTH]

on comprend bien la gène occasionnée, mais il faut bien reconnaître que la problématique n'est pas simple...

comme Google identifierait-il ceci ?

[Issam]

on comprend bien la gène occasionnée, mais il faut bien reconnaître que la problématique n'est pas simple...

comme Google identifierait-il ceci ?

c'est quand même très différent ce masque de gorrille avec le visage de la jeune femme non ?

enfin bref, ce genre d'incident peut arriver dans la vie, google n'avait pas une mauvaise intention, elle s'en est excusé et promis de corriger ce bug .

[spiritofgenuis]

l’intérêt peut être de pouvoir ensuite classé les photos par thème, ou bien avoir un mini "moteur de recherche" dans tes photos. tu aimerais retrouvé la photo ou y a un gars qui faisait du rodéo, tu tapes taureau personne, hop il te retrouve la photo. Apres l’intérêt pour google c'est d'améliorer la pertinence de google image et d'avoir encore plus d'info sur toi grâce au photo qu'il sait analyser...

[23JFK]

Bah au moins, Google prouve que l'homme descend bien du singe !!!!

L'Homme ne descend pas du singe, l'Homme est lui-même un singe de la famille hominidae de l'ordre primate tout comme le gorille. Franchement, que la photo soit identifiée comme comportant des gorilles ne me choque pas, la sous exposition et l'effet hirsute de la coiffure (et même la disposition spatiale des têtes) induirait en erreur même une personne souffrant de prosopagnosie. Quant à l'humour raciste, je ne vois pas en quoi énoncer une vérité scientifique puît être drôle ou insultant. l'Homme est un singe quelque soit sa couleur de peau qui n'est, par ailleurs, pas un critère scientifique permettant de qualifier une race ; La personne qui se croit raciste est juste un individu tenté par un isolement génétique dont le cas extrême correspondant à des pratiques incestieuses n'est pas génétiquement pérenne.

[Paul TOTH]

c'est quand même très différent ce masque de gorrille avec le visage de la jeune femme non ?

du point de vue éthique oui évidemment, du point de vue technique ça l'est moins. Personnellement je serais bien incapable de créer un algorithme pour détecter quoi que ce soit dans une photo; mais que cette jeune femme noire soit prise pour un gorille n'est pas techniquement plus aberrant que de confondre un homme et un chien. Même si le contexte socio-culturel fait que l'association noir/singe soit plus mal perçue que celle homme/chien.

[Aiekick]

je comprends pas pourquoi ils s'offusquent ? si c'était volontaire et en connaissance de cause ( un choix humain donc) je comprendrait mais la c'est un processus automatique. y a pas de volonté de nuire ni de sentiments dans l’opération...

un visage humanoïde noire classé comme gorille, un visage humanoïde blanc aurait pu être classé comme chimpanzé... ou est le problème...faut arrêter d’être susceptible juste pour faire parler de soi

[Paul TOTH]

je comprends pas pourquoi ils s'offusquent ? si c'était volontaire et en connaissance de cause ( un choix humain donc) je comprendrait mais la c'est un processus automatique. y a pas de volonté de nuire ni de sentiments dans l’opération...

un visage humanoïde noire classé comme gorille, un visage humanoïde blanc aurait pu être classé comme chimpanzé... ou est le problème...faut arrêter d’être susceptible juste pour faire parler de soi

va savoir, l'équipe de développement a peut-être délibérément mis en avant le critère de couleur avant d'autres plus pertinents pour distinguer les espèces

quoi qu'il en soit, pointer l'erreur pour améliorer l'algorithme est ce que nous faisons tous les jours en remontant des bugs (ou en corrigeant ceux qu'on nous remonte), et présenter des excuses n'est pas non plus extraordinaire en soit...tout cela est un non événement.

[SergeFo]

je comprends pas pourquoi ils s'offusquent ? si c'était volontaire et en connaissance de cause ( un choix humain donc) je comprendrait mais la c'est un processus automatique. y a pas de volonté de nuire ni de sentiments dans l’opération...

un visage humanoïde noire classé comme gorille, un visage humanoïde blanc aurait pu être classé comme chimpanzé... ou est le problème...faut arrêter d’être susceptible juste pour faire parler de soi

Ouep ... surtout que les gorilles, eux, ne se sont même pas plaint ...

Ah si !

[RyzenOC]

Un programme c'est juste une suite d'instruction, savoir différencier un humain et un singe (y'a des ressemblance entre les 2 espèces) me parait difficile a partir d'une photo, avec un gros plan sur le visage.

Attention, le propos qui va suivre n'a pas de connotation raciste, mais en pure objectivité la personne fais une grimace ou bien a un visage qui ressemble a un gorille, si on devait l'assimiler a un animal.



Le visage humain n'est pas uniforme, certain ont la tète ronde (comme un singe), d'autre le crane très allongé.
Forcément il y'auras des erreurs de ce type.

Il faut se poser les questions suivante :
1) Comment ont (les humains) fait pour savoir si c'est un visage d'homme ou de singe ?
2) comment le retranscrire en langage machine ?

Sa me fait penser a mon 1er cours de philo, ou le prof nous avait demandé de définir ce quétait une table, il s'avère que l'exercice est beaucoup plus compliqué qu'il n'y parait.

On pourrais essayer de comparer avec le rendu de la peau, car la peau du visage de l'homme et du singe est différente, de plus il n'existe pas a ma connaissance de peau marron chez les singe, c'est soit noir, gris ou blanc.

[mapmip]

l'être humain est un grand singe. Pourquoi devrait-on s'excuser de considérer un afro-américain comme étant un gorille ?
Si ils avaient été tagués comme "APE" (singe en anglais), est-ce que ca serait mieux passé ?

[RyzenOC]

Ils n'ont qu'a remplacer Gorille par Mammifère et ca fait un hotfix.

[Neckara]

Il faut se poser les questions suivante :
1) Comment ont (les humains) fait pour savoir si c'est un visage d'homme ou de singe ?
2) comment le retranscrire en langage machine ?

Je ne pense pas qu'ils s'amusent à écrire eux-même les conditions de "reconnaissance", à mon avis, c'est plus un algorithme d'apprentissage. Le tout étant alors de choisir l'algorithme le plus adapté, de l'écrire, de le configurer, de déterminer les données les plus pertinentes à analyser, de lui faire apprendre et de le tester. À côté, ils doivent aussi avoir quelques bouts de codes pour extraire des informations des images comme les contours, la couleur du "visage" ou autre qui serviront de données d'entrée de l'algorithme d'apprentissage/reconnaissance.

Donc non, on ne se pose pas ta première question.



Après il est normal d'avoir des faux positifs, ce n'est pas surprenant.
Si on était vraiment paranoïaque, on pourrait aussi penser que quelques photos de gorilles ont été introduites dans les séries de tests ou d'apprentissages par un des employés…

[RyzenOC]

Donc non, on ne se pose pas ta première question.

Du coup pour écrire l'algo, faut résoudre un autre problème: Comment l'homme apprend a différencier un homme d'un singe, mais dans tous les cas, temps que l'on aura pas compris comment fonctionne le cerveau, ce problème resteras très complexe a résoudre.

[Sodium]

Du coup pour écrire l'algo, faut résoudre un autre problème: Comment l'homme apprend a différencier un homme d'un singe, mais dans tous les cas, temps que l'on aura pas compris comment fonctionne le cerveau, ce problème resteras très complexe a résoudre.

Pas tant que ça au fait.
Le processus de reconnaissance par le cerveau est assez simple : il repère une chose et évalue les probabilités qu'elle corresponde à une chose en particulier dans sa mémoire.
Des études ont également montré que l'humain développe une capacité à distinguer les visages du groupe ethnique dans lequel il évolue. C'est pourquoi un blanc trouvera que tous les noirs se ressemble et vice-versa.
Les algorithmes en sont au début de leur apprentissage et ne disposent pas encore de la puissance et de la rapidité du cerveau humain, ils sont donc voués à un taux conséquent d'erreurs pour un certain temps encore.

[Neckara]

Du coup pour écrire l'algo, faut résoudre un autre problème: Comment l'homme apprend a différencier un homme d'un singe, mais dans tous les cas, temps que l'on aura pas compris comment fonctionne le cerveau, ce problème resteras très complexe a résoudre.

Cela dépend si tu veux faire de l'IA faible ou de l'IA forte.

Pour de l'IA faible, seul le résultat compte, on ne cherche pas à copier le fonctionnement du cerveau. Dans notre cas, c'est juste des calculs mathématiques et des algorithmes d'apprentissages bien connus dont on a aucun problème à écrire.

Pour l'IA forte, on cherche vraiment à copier le fonctionnement du cerveau, c'est un peu moins répandu que l'IA faible.
Donc là, on ne s'interroge pas non plus sur "Comment l'homme apprend a différencier un homme d'un singe", mais plus sur "Comment l'homme apprend". Donc cela va être (généralement) tout ce qui est réseaux de neurones. Très efficace quand c'est effectué niveau hardware, un peu moins niveau software.
Je peux me tromper, mais je ne pense pas que ce soit la méthode utilisée. On recherche le résultat avant tout, donc je pencherais plus, à mon avis, vers de l'IA faible.