IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Actualités Discussion :

Google présente ses excuses pour un tag malheureux de son application Photos

  1. #1
    Chroniqueur Actualités

    Homme Profil pro
    Administrateur de base de données
    Inscrit en
    mars 2013
    Messages
    6 457
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Canada

    Informations professionnelles :
    Activité : Administrateur de base de données

    Informations forums :
    Inscription : mars 2013
    Messages : 6 457
    Points : 155 277
    Points
    155 277
    Par défaut Google présente ses excuses pour un tag malheureux de son application Photos
    Google présente ses excuses pour un tag malheureux de son application Photos,
    qui a identifié un couple d'afro-américains comme étant des gorilles

    Google s’est confondu en excuses après que l’algorithme qui reconnait les visages et les situations de son application Google Photos ait commis l’impair de confondre un couple de Noirs avec des gorilles. Cette erreur a été rapportée par le développeur New Yorkais Jacky Alciné qui est l’une des deux personnes sur la photo. Il l’a signalé en publiant un tweet, preuve à l’appui, avec un petit message pour bien montrer son irritation « Google Photos, vous avez merdé. Mon amie n’est pas un gorille ».

    Peu de temps après ce premier tweet, Google a réagi par l’entremise d’un de ses responsables Yonathan Zunger, lequel a reconnu sur le fil de discussion amorcé par Alciné que ce n’était pas du tout correct. Il a par la suite certifié que l’entreprise prenait des mesures afin que le problème ne survienne plus, précisant que des problèmes de ce type sont désormais « classés haut dans ma liste de bugs que vous ne voulez ‘jamais’ voir se produire ». Il a rajouté que Google « travaille également sur des corrections à long terme concernant à la fois la reconnaissance linguistique – les mots qu’il faut utiliser avec précaution une fois en face de photos de personnes – et la reconnaissance faciale elle-même – par exemple mieux reconnaître les visages à la peau foncée ».


    Si ce n’est pas la première fois que Google Photos attribue le mauvais tag (Yonathan a rappelé que « nous avons eu un problème avec des gens -de toutes races- étant identifiés comme étant des chiens, pour des raisons similaires »), Google a cependant reconnu la sensibilité de cette dernière erreur. Dans une déclaration au quotidien BBC, un porte-parole de Google a avancé que « nous sommes consternés et sincèrement désolés que cela soit arrivé. Nous prenons des mesures immédiates pour prévenir ce genre d’erreur à l’avenir. Il y a manifestement encore beaucoup de travail à faire avec l’étiquetage automatique d’image (…) ».


    Cependant Alciné a confié ses préoccupations à la BBC : « j’ai quelques questions, comme quel genre d’images et de personnes ont été utilisées dans leur amorçage initial qui a pu conduire à de tels résultats ? »

    Source : BBC
    Contribuez au club : Corrections, suggestions, critiques, ... : Contactez le service news et Rédigez des actualités

  2. #2
    Membre régulier
    Homme Profil pro
    Etudiant
    Inscrit en
    juin 2009
    Messages
    38
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 36
    Localisation : France, Alpes Maritimes (Provence Alpes Côte d'Azur)

    Informations professionnelles :
    Activité : Etudiant

    Informations forums :
    Inscription : juin 2009
    Messages : 38
    Points : 93
    Points
    93
    Par défaut
    Bah au moins, Google prouve que l'homme descend bien du singe !!!!

  3. #3
    Membre habitué
    Homme Profil pro
    Responsable de service informatique
    Inscrit en
    avril 2010
    Messages
    77
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Allier (Auvergne)

    Informations professionnelles :
    Activité : Responsable de service informatique
    Secteur : Industrie

    Informations forums :
    Inscription : avril 2010
    Messages : 77
    Points : 168
    Points
    168
    Par défaut
    et la prochaine fois que le type ira au zoo et se prendra en photo avec un vrai singe, il va faire quoi Google ?

  4. #4
    Membre extrêmement actif
    Avatar de Sodium
    Femme Profil pro
    Développeuse web
    Inscrit en
    avril 2014
    Messages
    2 324
    Détails du profil
    Informations personnelles :
    Sexe : Femme
    Localisation : Belgique

    Informations professionnelles :
    Activité : Développeuse web

    Informations forums :
    Inscription : avril 2014
    Messages : 2 324
    Points : 1 945
    Points
    1 945
    Billets dans le blog
    1
    Par défaut
    La seule réaction saine me semble être de prendre ça avec le sourire. La technologie en est encore à ses débuts et des erreurs de ce genre sont inévitables.

  5. #5
    Expert éminent sénior
    Avatar de Paul TOTH
    Homme Profil pro
    Freelance
    Inscrit en
    novembre 2002
    Messages
    8 266
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 52
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Freelance
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : novembre 2002
    Messages : 8 266
    Points : 26 760
    Points
    26 760
    Par défaut
    on comprend bien la gène occasionnée, mais il faut bien reconnaître que la problématique n'est pas simple...

    comme Google identifierait-il ceci ?
    Nom : Horror-Gorilla-Masks-Rubber-Full-Face-Mask-With-Much-Wool-Halloween-Paryt-Props.jpg
Affichages : 4936
Taille : 205,1 Ko
    Developpez.com: Mes articles, forum FlashPascal
    Entreprise: Execute SARL
    Le Store Excute Store

  6. #6
    Membre confirmé Avatar de Issam
    Inscrit en
    mars 2002
    Messages
    575
    Détails du profil
    Informations personnelles :
    Âge : 46

    Informations forums :
    Inscription : mars 2002
    Messages : 575
    Points : 585
    Points
    585
    Par défaut
    Citation Envoyé par Paul TOTH Voir le message
    on comprend bien la gène occasionnée, mais il faut bien reconnaître que la problématique n'est pas simple...

    comme Google identifierait-il ceci ?
    Nom : Horror-Gorilla-Masks-Rubber-Full-Face-Mask-With-Much-Wool-Halloween-Paryt-Props.jpg
Affichages : 4936
Taille : 205,1 Ko
    c'est quand même très différent ce masque de gorrille avec le visage de la jeune femme non ?

    enfin bref, ce genre d'incident peut arriver dans la vie, google n'avait pas une mauvaise intention, elle s'en est excusé et promis de corriger ce bug .

  7. #7
    Membre à l'essai
    Profil pro
    Inscrit en
    février 2013
    Messages
    4
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : février 2013
    Messages : 4
    Points : 12
    Points
    12
    Par défaut
    l’intérêt peut être de pouvoir ensuite classé les photos par thème, ou bien avoir un mini "moteur de recherche" dans tes photos. tu aimerais retrouvé la photo ou y a un gars qui faisait du rodéo, tu tapes taureau personne, hop il te retrouve la photo. Apres l’intérêt pour google c'est d'améliorer la pertinence de google image et d'avoir encore plus d'info sur toi grâce au photo qu'il sait analyser...

  8. #8
    Membre émérite
    Profil pro
    undef
    Inscrit en
    février 2013
    Messages
    772
    Détails du profil
    Informations personnelles :
    Localisation : France, Lot (Midi Pyrénées)

    Informations professionnelles :
    Activité : undef

    Informations forums :
    Inscription : février 2013
    Messages : 772
    Points : 2 678
    Points
    2 678
    Par défaut
    Citation Envoyé par Askeridos Voir le message
    Bah au moins, Google prouve que l'homme descend bien du singe !!!!
    L'Homme ne descend pas du singe, l'Homme est lui-même un singe de la famille hominidae de l'ordre primate tout comme le gorille. Franchement, que la photo soit identifiée comme comportant des gorilles ne me choque pas, la sous exposition et l'effet hirsute de la coiffure (et même la disposition spatiale des têtes) induirait en erreur même une personne souffrant de prosopagnosie. Quant à l'humour raciste, je ne vois pas en quoi énoncer une vérité scientifique puît être drôle ou insultant. l'Homme est un singe quelque soit sa couleur de peau qui n'est, par ailleurs, pas un critère scientifique permettant de qualifier une race ; La personne qui se croit raciste est juste un individu tenté par un isolement génétique dont le cas extrême correspondant à des pratiques incestieuses n'est pas génétiquement pérenne.

  9. #9
    Expert éminent sénior
    Avatar de Paul TOTH
    Homme Profil pro
    Freelance
    Inscrit en
    novembre 2002
    Messages
    8 266
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 52
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Freelance
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : novembre 2002
    Messages : 8 266
    Points : 26 760
    Points
    26 760
    Par défaut
    Citation Envoyé par Issam Voir le message
    c'est quand même très différent ce masque de gorrille avec le visage de la jeune femme non ?
    du point de vue éthique oui évidemment, du point de vue technique ça l'est moins. Personnellement je serais bien incapable de créer un algorithme pour détecter quoi que ce soit dans une photo; mais que cette jeune femme noire soit prise pour un gorille n'est pas techniquement plus aberrant que de confondre un homme et un chien. Même si le contexte socio-culturel fait que l'association noir/singe soit plus mal perçue que celle homme/chien.
    Developpez.com: Mes articles, forum FlashPascal
    Entreprise: Execute SARL
    Le Store Excute Store

  10. #10
    Membre extrêmement actif
    Homme Profil pro
    Consultant Ingenierie mécanique
    Inscrit en
    mars 2006
    Messages
    1 268
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Yvelines (Île de France)

    Informations professionnelles :
    Activité : Consultant Ingenierie mécanique
    Secteur : Transports

    Informations forums :
    Inscription : mars 2006
    Messages : 1 268
    Points : 2 955
    Points
    2 955
    Par défaut
    je comprends pas pourquoi ils s'offusquent ? si c'était volontaire et en connaissance de cause ( un choix humain donc) je comprendrait mais la c'est un processus automatique. y a pas de volonté de nuire ni de sentiments dans l’opération...

    un visage humanoïde noire classé comme gorille, un visage humanoïde blanc aurait pu être classé comme chimpanzé... ou est le problème...faut arrêter d’être susceptible juste pour faire parler de soi

  11. #11
    Expert éminent sénior
    Avatar de Paul TOTH
    Homme Profil pro
    Freelance
    Inscrit en
    novembre 2002
    Messages
    8 266
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 52
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Freelance
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : novembre 2002
    Messages : 8 266
    Points : 26 760
    Points
    26 760
    Par défaut
    Citation Envoyé par cuicui78 Voir le message
    je comprends pas pourquoi ils s'offusquent ? si c'était volontaire et en connaissance de cause ( un choix humain donc) je comprendrait mais la c'est un processus automatique. y a pas de volonté de nuire ni de sentiments dans l’opération...

    un visage humanoïde noire classé comme gorille, un visage humanoïde blanc aurait pu être classé comme chimpanzé... ou est le problème...faut arrêter d’être susceptible juste pour faire parler de soi
    va savoir, l'équipe de développement a peut-être délibérément mis en avant le critère de couleur avant d'autres plus pertinents pour distinguer les espèces

    quoi qu'il en soit, pointer l'erreur pour améliorer l'algorithme est ce que nous faisons tous les jours en remontant des bugs (ou en corrigeant ceux qu'on nous remonte), et présenter des excuses n'est pas non plus extraordinaire en soit...tout cela est un non événement.
    Developpez.com: Mes articles, forum FlashPascal
    Entreprise: Execute SARL
    Le Store Excute Store

  12. #12
    Membre à l'essai
    Homme Profil pro
    Développeur informatique
    Inscrit en
    juin 2015
    Messages
    16
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Isère (Rhône Alpes)

    Informations professionnelles :
    Activité : Développeur informatique

    Informations forums :
    Inscription : juin 2015
    Messages : 16
    Points : 11
    Points
    11
    Par défaut
    je comprends pas pourquoi ils s'offusquent ? si c'était volontaire et en connaissance de cause ( un choix humain donc) je comprendrait mais la c'est un processus automatique. y a pas de volonté de nuire ni de sentiments dans l’opération...

    un visage humanoïde noire classé comme gorille, un visage humanoïde blanc aurait pu être classé comme chimpanzé... ou est le problème...faut arrêter d’être susceptible juste pour faire parler de soi
    Ouep ... surtout que les gorilles, eux, ne se sont même pas plaint ...

    Ah si !

    Nom : images.jpg
Affichages : 497
Taille : 8,9 Ko

  13. #13
    Inactif  

    Homme Profil pro
    NR
    Inscrit en
    juin 2013
    Messages
    3 715
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Suisse

    Informations professionnelles :
    Activité : NR
    Secteur : Aéronautique - Marine - Espace - Armement

    Informations forums :
    Inscription : juin 2013
    Messages : 3 715
    Points : 1 062
    Points
    1 062
    Billets dans le blog
    9
    Par défaut
    Un programme c'est juste une suite d'instruction, savoir différencier un humain et un singe (y'a des ressemblance entre les 2 espèces) me parait difficile a partir d'une photo, avec un gros plan sur le visage.

    Attention, le propos qui va suivre n'a pas de connotation raciste, mais en pure objectivité la personne fais une grimace ou bien a un visage qui ressemble a un gorille, si on devait l'assimiler a un animal.

    Nom : Sans titre.jpg
Affichages : 478
Taille : 157,9 Ko

    Le visage humain n'est pas uniforme, certain ont la tète ronde (comme un singe), d'autre le crane très allongé.
    Forcément il y'auras des erreurs de ce type.

    Il faut se poser les questions suivante :
    1) Comment ont (les humains) fait pour savoir si c'est un visage d'homme ou de singe ?
    2) comment le retranscrire en langage machine ?

    Sa me fait penser a mon 1er cours de philo, ou le prof nous avait demandé de définir ce quétait une table, il s'avère que l'exercice est beaucoup plus compliqué qu'il n'y parait.

    On pourrais essayer de comparer avec le rendu de la peau, car la peau du visage de l'homme et du singe est différente, de plus il n'existe pas a ma connaissance de peau marron chez les singe, c'est soit noir, gris ou blanc.

  14. #14
    Membre averti Avatar de mapmip
    Profil pro
    ulla
    Inscrit en
    juillet 2006
    Messages
    1 248
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations professionnelles :
    Activité : ulla

    Informations forums :
    Inscription : juillet 2006
    Messages : 1 248
    Points : 329
    Points
    329
    Par défaut
    l'être humain est un grand singe. Pourquoi devrait-on s'excuser de considérer un afro-américain comme étant un gorille ?
    Si ils avaient été tagués comme "APE" (singe en anglais), est-ce que ca serait mieux passé ?

  15. #15
    Inactif  

    Homme Profil pro
    NR
    Inscrit en
    juin 2013
    Messages
    3 715
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Suisse

    Informations professionnelles :
    Activité : NR
    Secteur : Aéronautique - Marine - Espace - Armement

    Informations forums :
    Inscription : juin 2013
    Messages : 3 715
    Points : 1 062
    Points
    1 062
    Billets dans le blog
    9
    Par défaut
    Ils n'ont qu'a remplacer Gorille par Mammifère et ca fait un hotfix.

  16. #16
    Inactif  


    Homme Profil pro
    Doctorant sécurité informatique — Diplômé master Droit/Économie/Gestion
    Inscrit en
    décembre 2011
    Messages
    9 014
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 28
    Localisation : France, Loire (Rhône Alpes)

    Informations professionnelles :
    Activité : Doctorant sécurité informatique — Diplômé master Droit/Économie/Gestion
    Secteur : Enseignement

    Informations forums :
    Inscription : décembre 2011
    Messages : 9 014
    Points : 22 975
    Points
    22 975
    Par défaut
    Citation Envoyé par sazearte Voir le message
    Il faut se poser les questions suivante :
    1) Comment ont (les humains) fait pour savoir si c'est un visage d'homme ou de singe ?
    2) comment le retranscrire en langage machine ?
    Je ne pense pas qu'ils s'amusent à écrire eux-même les conditions de "reconnaissance", à mon avis, c'est plus un algorithme d'apprentissage. Le tout étant alors de choisir l'algorithme le plus adapté, de l'écrire, de le configurer, de déterminer les données les plus pertinentes à analyser, de lui faire apprendre et de le tester. À côté, ils doivent aussi avoir quelques bouts de codes pour extraire des informations des images comme les contours, la couleur du "visage" ou autre qui serviront de données d'entrée de l'algorithme d'apprentissage/reconnaissance.

    Donc non, on ne se pose pas ta première question.



    Après il est normal d'avoir des faux positifs, ce n'est pas surprenant.
    Si on était vraiment paranoïaque, on pourrait aussi penser que quelques photos de gorilles ont été introduites dans les séries de tests ou d'apprentissages par un des employés…

  17. #17
    Inactif  

    Homme Profil pro
    NR
    Inscrit en
    juin 2013
    Messages
    3 715
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Suisse

    Informations professionnelles :
    Activité : NR
    Secteur : Aéronautique - Marine - Espace - Armement

    Informations forums :
    Inscription : juin 2013
    Messages : 3 715
    Points : 1 062
    Points
    1 062
    Billets dans le blog
    9
    Par défaut
    Donc non, on ne se pose pas ta première question.
    Du coup pour écrire l'algo, faut résoudre un autre problème: Comment l'homme apprend a différencier un homme d'un singe, mais dans tous les cas, temps que l'on aura pas compris comment fonctionne le cerveau, ce problème resteras très complexe a résoudre.

  18. #18
    Membre extrêmement actif
    Avatar de Sodium
    Femme Profil pro
    Développeuse web
    Inscrit en
    avril 2014
    Messages
    2 324
    Détails du profil
    Informations personnelles :
    Sexe : Femme
    Localisation : Belgique

    Informations professionnelles :
    Activité : Développeuse web

    Informations forums :
    Inscription : avril 2014
    Messages : 2 324
    Points : 1 945
    Points
    1 945
    Billets dans le blog
    1
    Par défaut
    Du coup pour écrire l'algo, faut résoudre un autre problème: Comment l'homme apprend a différencier un homme d'un singe, mais dans tous les cas, temps que l'on aura pas compris comment fonctionne le cerveau, ce problème resteras très complexe a résoudre.
    Pas tant que ça au fait.
    Le processus de reconnaissance par le cerveau est assez simple : il repère une chose et évalue les probabilités qu'elle corresponde à une chose en particulier dans sa mémoire.
    Des études ont également montré que l'humain développe une capacité à distinguer les visages du groupe ethnique dans lequel il évolue. C'est pourquoi un blanc trouvera que tous les noirs se ressemble et vice-versa.
    Les algorithmes en sont au début de leur apprentissage et ne disposent pas encore de la puissance et de la rapidité du cerveau humain, ils sont donc voués à un taux conséquent d'erreurs pour un certain temps encore.

  19. #19
    Inactif  


    Homme Profil pro
    Doctorant sécurité informatique — Diplômé master Droit/Économie/Gestion
    Inscrit en
    décembre 2011
    Messages
    9 014
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 28
    Localisation : France, Loire (Rhône Alpes)

    Informations professionnelles :
    Activité : Doctorant sécurité informatique — Diplômé master Droit/Économie/Gestion
    Secteur : Enseignement

    Informations forums :
    Inscription : décembre 2011
    Messages : 9 014
    Points : 22 975
    Points
    22 975
    Par défaut
    Citation Envoyé par sazearte Voir le message
    Du coup pour écrire l'algo, faut résoudre un autre problème: Comment l'homme apprend a différencier un homme d'un singe, mais dans tous les cas, temps que l'on aura pas compris comment fonctionne le cerveau, ce problème resteras très complexe a résoudre.
    Cela dépend si tu veux faire de l'IA faible ou de l'IA forte.

    Pour de l'IA faible, seul le résultat compte, on ne cherche pas à copier le fonctionnement du cerveau. Dans notre cas, c'est juste des calculs mathématiques et des algorithmes d'apprentissages bien connus dont on a aucun problème à écrire.

    Pour l'IA forte, on cherche vraiment à copier le fonctionnement du cerveau, c'est un peu moins répandu que l'IA faible.
    Donc là, on ne s'interroge pas non plus sur "Comment l'homme apprend a différencier un homme d'un singe", mais plus sur "Comment l'homme apprend". Donc cela va être (généralement) tout ce qui est réseaux de neurones. Très efficace quand c'est effectué niveau hardware, un peu moins niveau software.
    Je peux me tromper, mais je ne pense pas que ce soit la méthode utilisée. On recherche le résultat avant tout, donc je pencherais plus, à mon avis, vers de l'IA faible.

Discussions similaires

  1. Google présente ses résultats financiers pour le second trimestre
    Par Stéphane le calme dans le forum Actualités
    Réponses: 0
    Dernier message: 18/07/2014, 17h48
  2. Google présente ses excellents résultats trimestriels
    Par Stéphane le calme dans le forum Actualités
    Réponses: 1
    Dernier message: 02/02/2014, 22h42
  3. Réponses: 3
    Dernier message: 03/12/2010, 19h50
  4. Réponses: 30
    Dernier message: 08/09/2010, 16h41
  5. Google présente ses excuses aux utilisateurs de Buzz
    Par belhassen1982 dans le forum Actualités
    Réponses: 0
    Dernier message: 17/02/2010, 22h24

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo