IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Conception Web Discussion :

Google va adapter son moteur de recherche à la couleur de peau des internautes


Sujet :

Conception Web

  1. #1
    Chroniqueur Actualités
    Avatar de Bruno
    Homme Profil pro
    Rédacteur technique
    Inscrit en
    mai 2019
    Messages
    762
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Cameroun

    Informations professionnelles :
    Activité : Rédacteur technique
    Secteur : High Tech - Produits et services télécom et Internet

    Informations forums :
    Inscription : mai 2019
    Messages : 762
    Points : 10 090
    Points
    10 090
    Par défaut Google va adapter son moteur de recherche à la couleur de peau des internautes
    Google va adapter son moteur de recherche à la couleur de peau des internautes

    L'entreprise a présenté une palette de dix teintes de peau qui permettra une meilleure représentativité des résultats de recherche, notamment sur Google Images. « Aujourd'hui, nous avons lancé l'échelle Monk Skin Tone (MST) en partenariat avec le professeur et sociologue de Harvard, le Dr Ellis Monk. L'échelle MST, développée par le Dr Monk, est une échelle à 10 nuances conçue pour mieux prendre en compte l'éventail des couleurs de peau dans notre société. Nous intégrerons l'échelle MST dans divers produits Google au cours des prochains mois et nous la rendons publique afin que chacun puisse l'utiliser pour la recherche et le développement de produits », a déclaré Molly McHugh-Johnson, Staff Writer at Google.

    L'échelle MST constitue une étape importante dans l'effort collectif visant à améliorer l'intégration de la couleur de peau dans la technologie. Pour Google, elle aidera à progresser dans l’engagement en faveur de l'équité de l'image et de l'amélioration de la représentation dans les produits Google. En mettant l'échelle MST à la disposition de tous, Google espère que d'autres personnes pourront en faire autant.

    La prise en compte de l'équité en matière de couleur de peau dans la technologie constitue un défi intéressant pour la recherche, car il ne s'agit pas seulement d'une question technique, mais aussi d'une question sociale.

    Pour progresser, il faut l'expertise combinée d'un large éventail de personnes : des universitaires en sciences sociales qui ont passé des années à étudier les inégalités sociales et la stratification de la couleur de la peau dans le cadre de leurs recherches, aux utilisateurs de produits et de technologies, qui apportent les nuances et les commentaires nécessaires issus de leurs expériences vécues, en passant par les éthiciens et les militants des droits civiques, qui guident les cadres d'application afin de garantir que nous préservons et honorons les nuances sociales.

    Nom : skin2.png
Affichages : 6082
Taille : 762,7 Ko

    Les équipes de Google contribuent à cet ensemble de travaux depuis des années maintenant. Voici un aperçu plus approfondi de la façon dont les équipes de Google ont réfléchi et travaillé sur les efforts de représentation de la couleur de la peau, en particulier en ce qui concerne l'échelle MST et ce qui pourrait suivre.

    « Des inégalités persistantes existent à l'échelle mondiale en raison des préjugés ou de la discrimination à l'encontre des personnes ayant une couleur de peau plus foncée, également connus sous le nom de colorisme », explique le Dr Courtney Heldreth, psychologue sociale et chercheuse en expérience utilisateur (UX) au sein du département Responsible AI Human-Centered Technology UX (RAI-HCT UX) de Google, qui fait partie de Google Research. « La littérature académique démontre que la couleur de la peau joue un rôle important dans la façon dont les gens sont traités dans une grande variété de résultats, y compris la santé, la richesse, le bien-être, et plus encore. »

    L'apprentissage automatique, un type d'IA, est à la base de nombreux produits que nous utilisons tous les jours. Les caméras utilisent l'apprentissage automatique pour des raisons de sécurité, pour déverrouiller un téléphone ou enregistrer la présence d'une personne à la porte. L'apprentissage automatique permet de classer les photos en fonction de visages similaires ou d'ajuster la luminosité d'une image.

    Pour bien faire, les ingénieurs et les chercheurs ont besoin de divers ensembles de données d'entraînement pour former des modèles et pour tester de manière approfondie les modèles résultants sur un large éventail d'images. Il est important de noter que, pour que les ensembles de données utilisés pour développer des technologies liées à la compréhension des personnes soient plus inclusifs, Google a besoin d'une échelle qui représente un large éventail de tons de peau.

    « Si vous dites : j'ai testé mon modèle d'équité pour m'assurer qu'il fonctionne bien pour les tons de peau foncés, mais que vous utilisez une échelle qui ne représente pas la plupart des personnes ayant ces tons de peau, vous ne savez pas à quel point il fonctionne réellement », explique Xango Eyeé, un chef de produit travaillant sur l'IA responsable.

    « Si elle n'est pas développée avec intention, la mesure du teint de peau que nous utilisons pour comprendre si nos modèles sont justes et représentatifs peut affecter la façon dont les produits sont vécus par les utilisateurs. En aval, ces décisions peuvent avoir les plus grands impacts sur les personnes les plus vulnérables aux traitements injustes, les personnes à la peau plus foncée », explique le Dr Heldreth.

    Nom : skin.png
Affichages : 3355
Taille : 25,2 Ko

    Eyeé et le Dr Heldreth sont tous deux des membres essentiels des efforts de recherche de Google visant à intégrer une plus grande équité en matière de couleur de peau dans le développement de l'IA, un groupe qui comprend un ensemble interdisciplinaire de chefs de produit, de chercheurs et d'ingénieurs spécialisés dans la vision par ordinateur et la psychologie sociale. L'équipe collabore également avec les équipes chargées de l'équité en matière d'image au sein de Google, afin de renforcer la représentation dans des produits tels que les appareils photo, les photos et les emojis.

    « Nous adoptons une approche centrée sur l'humain pour comprendre comment l'IA peut influencer et aider les gens dans le monde entier, explique le Dr Heldreth, en nous concentrant sur l'amélioration de l'inclusivité dans l'IA, pour faire en sorte que la technologie reflète et donne du pouvoir aux communautés globalement et culturellement diverses, en particulier celles qui sont historiquement marginalisées et mal desservies. » Une échelle de teinte de peau plus inclusive est un élément central de cet effort.

    L'équipe fonctionne avec un objectif directeur : Continuer à améliorer la technologie afin qu'elle fonctionne bien pour un plus grand nombre de personnes. Pour ce faire, deux tâches majeures ont été accomplies : « La première consistait à déterminer ce qui était déjà construit et pourquoi cela ne fonctionnait pas, explique Eyeé. Et la seconde a été de déterminer ce que nous devions construire à la place. »

    Une approche socio-technique

    « Le teint de la peau est un élément qui modifie les propriétés physiques des images et qui affecte les expériences vécues par les gens, et ces deux éléments peuvent avoir un impact sur les performances d'un élément technologique », explique le Dr Susanna Ricco. Le Dr Ricco, ingénieur logiciel au sein de l'équipe Perception de Google Research, dirige un groupe spécialisé dans la recherche de nouvelles méthodes pour s'assurer que les systèmes de vision par ordinateur de Google fonctionnent bien pour un plus grand nombre d'utilisateurs, quels que soient leurs antécédents ou leur apparence.

    « Pour s'assurer que cette technologie fonctionne pour toutes les couleurs de peau, nous devons la tester et l'améliorer intentionnellement sur une gamme diversifiée. Pour ce faire, nous avons besoin d'une échelle qui ne laisse pas de côté les couleurs de peau et qui ne soit pas trop générale », explique-t-elle.

    « Il y a l'aspect physique des choses, à savoir la façon dont un capteur réagit à la couleur de la peau d'une personne, explique le Dr Ricco. Ensuite, il y a l'aspect social des choses : Nous savons qu'il existe une corrélation entre la couleur de la peau et les expériences de vie, et nous voulons donc nous assurer que nous examinons l'équité de ce point de vue également. En fin de compte, ce qui compte, c'est de savoir si cela fonctionne pour moi ? - et pas seulement moi, la personne qui crée cette technologie, mais moi, c'est-à-dire toute personne qui y est confrontée. »

    « Développer une échelle pour cela n'est pas seulement un problème d'IA ou de technologie, mais un problème socio-technique, ajoute le Dr Heldreth. Il est important que nous comprenions comment l'inégalité de la couleur de la peau peut se manifester dans la technologie que nous utilisons et, ce qui est important, que nous fassions de notre mieux pour éviter de reproduire le colorisme qui existe. L'équité est contextuelle et vécue de manière unique par chaque individu, il est donc important de centrer ce problème sur les personnes qui seront finalement affectées par les choix que nous faisons. Par conséquent, pour bien faire les choses, nous devons adopter une approche centrée sur l'humain, car il s'agit d'un problème humain. »

    L'échelle de teintes de peau

    Le Dr Monk a entrepris ces recherches en partie pour s'appuyer sur l'échelle de teinte de la peau la plus utilisée, l'échelle de Fitzpatrick. Créée en 1975 et composée de six grandes nuances, elle devait servir de point de départ à une catégorisation médicale du type de peau. L'industrie technologique l'a largement adoptée et appliquée aux teintes de peau, et elle est devenue la norme. C'est ce que la plupart des systèmes d'intelligence artificielle utilisent pour mesurer le teint de la peau. En comparaison, l'échelle MST est composée de 10 nuances, un nombre choisi pour ne pas être trop limitatif, mais aussi pas trop complexe. Il ne s'agit pas seulement de cette valeur numérique précise du teint de la peau. Il s'agit de donner aux gens quelque chose dans lequel ils peuvent se reconnaître.

    Ensemble, l'équipe et le Dr Monk ont interrogé des milliers d'adultes aux États-Unis pour savoir si les gens se sentaient mieux représentés par l'échelle MST par rapport à d'autres échelles qui ont été utilisées dans les secteurs de l'apprentissage automatique et de la beauté. « Dans l'ensemble, les gens se sentaient mieux représentés par l'échelle MST que par l'échelle Fitzpatrick », déclare Eyeé, et cela était particulièrement vrai pour les groupes démographiques moins représentés.

    « Ce que vous recherchez, c'est ce moment subjectif où les gens peuvent voir leur couleur de peau sur l'échelle, explique le Dr Heldreth. Voir les résultats de notre recherche démontrer qu'il existe d'autres mesures du teint de la peau où davantage de personnes se voient mieux représentées nous a donné l'impression de faire des pas dans la bonne direction, que nous pouvions vraiment faire la différence. »

    Bien sûr, 10 points ne sont pas aussi complets que les échelles qui ont 16, 40 ou 110 nuances. Et pour de nombreux cas d'utilisation, comme le maquillage, plus est mieux. Ce qui était passionnant dans les résultats de l'enquête de l'échelle MST, c'est que l'équipe a constaté que, même avec 10 nuances, les participants ont estimé que l'échelle était aussi représentative que les échelles de l'industrie de la beauté avec une plus grande variété.

    « Ils ont estimé que l'échelle MST était tout aussi inclusive, même si elle ne comportait que 10 points », explique Eyeé. Une échelle de 10 points peut également être utilisée lors de l'annotation des données, alors que l'évaluation des images de teint de peau à l'aide d'une échelle de 40 points serait une tâche presque impossible à réaliser de manière fiable par les évaluateurs.

    Ce qui est particulièrement intéressant dans ce travail, c'est qu'il continue de souligner l'importance d'une approche sociotechnique pour créer des outils et des produits plus équitables. Les tons de la peau sont continus et peuvent être définis et catégorisés de différentes manières, la plus simple étant de choisir des valeurs RVB équidistantes sur une échelle allant du brun clair au brun foncé.

    Mais une approche aussi technique ne tient pas compte de la nuance de la façon dont les différentes communautés ont été historiquement affectées par le colorisme. Une échelle efficace pour mesurer et réduire les expériences incohérentes pour un plus grand nombre de personnes doit refléter de manière adéquate un large éventail de teintes de peau qui représentent une diversité de communautés. C'est là que l'expertise et la recherche du Dr Monk s'avèrent particulièrement précieuses.

    L'un des premiers domaines dans lesquels cette technologie sera utilisée est celui des produits de Google basés sur l'image. Jusqu'à présent, Google s'est largement appuyé sur l'échelle de Fitzpatrick pour l'IA des photos. L'échelle MST est désormais intégrée à des produits tels que Google Photos et Image Search, et sera étendue encore plus largement dans les mois à venir.

    Source : Google

    Et vous ?

    Quel est votre avis sur le sujet ?

    Voir aussi :

    « Google a fermé mon compte pour avoir partagé des archives historiques qu'ils ont qualifiées "d'activité terroriste" », un éditeur indique qu'il risque de perdre des années de recherches

    Google veut à nouveau travailler avec le Pentagone, malgré les inquiétudes des employés. L'entreprise aurait proposé d'être un fournisseur de cloud militaire

    Google dévoile Logica, un nouveau langage de programmation logique open source, qui compile SQL et peut fonctionner sur Google BigQuery

    Google est poursuivi en justice pour avoir collecté secrètement des données aux dépens des utilisateurs Android, par le biais de transmissions cachées et non approuvées vers ses serveurs
    Contribuez au club : corrections, suggestions, critiques, ... Contactez le service news et Rédigez des actualités

  2. #2
    Expert confirmé Avatar de kain_tn
    Homme Profil pro
    Inscrit en
    mars 2005
    Messages
    1 255
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Suisse

    Informations forums :
    Inscription : mars 2005
    Messages : 1 255
    Points : 5 157
    Points
    5 157
    Par défaut
    Citation Envoyé par Bruno Voir le message
    Quel est votre avis sur le sujet ?
    Je préférerais que Google respecte d'avantage ma vie privée ainsi que celle de mes proches, plutôt que de trouver des trucs inutiles comme de s'adapter à ma couleur de peau pour collecter encore plus nos données...
    Copier c'est copier; voler c'est vendre un CD une vingtaine d'euros!


    Code C : Sélectionner tout - Visualiser dans une fenêtre à part
    1
    2
    3
    4
    5
    6
    7
    #include <stdio.h>
     
    int main(int argc, char **argv) {
     
        printf("So long, and thanks for the fish, Dennis...\n");
        return 0;
    }

  3. #3
    Membre extrêmement actif
    Avatar de Madmac
    Homme Profil pro
    Ingénieur développement logiciels
    Inscrit en
    juin 2004
    Messages
    1 232
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Canada

    Informations professionnelles :
    Activité : Ingénieur développement logiciels
    Secteur : Alimentation

    Informations forums :
    Inscription : juin 2004
    Messages : 1 232
    Points : 1 457
    Points
    1 457
    Billets dans le blog
    6
    Par défaut
    Il semble qu'ils n'ont lu le mémo chez Alphabet. Avec ce qui se passe avec Disney, il devrait comprendre que ce genre d'initiative est de plus en plus impopulaire chez les gens en général.

  4. #4
    Membre expert
    Profil pro
    undef
    Inscrit en
    février 2013
    Messages
    839
    Détails du profil
    Informations personnelles :
    Localisation : France, Lot (Midi Pyrénées)

    Informations professionnelles :
    Activité : undef

    Informations forums :
    Inscription : février 2013
    Messages : 839
    Points : 3 031
    Points
    3 031
    Par défaut
    Citation Envoyé par Madmac Voir le message
    ...
    Le problème, c'est qu'ils ont recruté masse d'activistes à cette cause aux postes clés de l'entreprise alors, ça va faire comme l'agronomie Lyssenkisme de l'URSS, des dégâts terribles pour lesquels les responsables ne seront jamais sanctionnés.

  5. #5
    Membre confirmé
    Profil pro
    Inscrit en
    novembre 2003
    Messages
    110
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : novembre 2003
    Messages : 110
    Points : 595
    Points
    595
    Par défaut
    En résumé, considérant la différence de peau de chacun (réelle) et la difficulté de rechercher des images sur la couleur de peau,
    Google restructure son indexation et rajoute un filtre sur son moteur de recherche d'image afin de permettre un meilleur entrainement des IA à partir des jeux de données d'image remontés.

    l'usage quotidien n'en sera pas changé (sauf certain qui s'offusqueront), l'usage des filtres avancés pour les data analyst pour faire leur jeux de donnée sera bien meilleur.

    Vu la difficulté d'entrainement des IA sur l'analyse des visages (cas entre autres : visage asiatique avec yeux trop fermés à l'IA demande "d'ouvrir les yeux", visage africains tellement noir que l'IA est dans les choux et demande de "ne pas rester dans l'ombre" ...)

    Donc techniquement une très bonne chose.

  6. #6
    Membre éclairé
    Homme Profil pro
    Chargé de projets
    Inscrit en
    décembre 2019
    Messages
    168
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 31
    Localisation : France, Hérault (Languedoc Roussillon)

    Informations professionnelles :
    Activité : Chargé de projets
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : décembre 2019
    Messages : 168
    Points : 690
    Points
    690
    Par défaut
    Mais quelle sera l'application ? Pour que quand je cherche dans google "personne mangeant du riz" me renvoie une personne blanche mangeant du riz parce que je suis blanc et que google le savait ? J'imagine que selon le lieu ou on tape cette recherche (genre entre Paris, Moscou et Pékin), les résultats changent de toute façon ? du coup pourquoi vouloir encore plus affiner le résultat ?

    J'avoue que les gens sont tous tellement dans le clivage en ce moment que je sais pas si j'aurais tenté le coup ^^

  7. #7
    Membre confirmé
    Profil pro
    Inscrit en
    novembre 2003
    Messages
    110
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : novembre 2003
    Messages : 110
    Points : 595
    Points
    595
    Par défaut
    Citation Envoyé par Jules34 Voir le message
    Mais quelle sera l'application ? Pour que quand je cherche dans google "personne mangeant du riz" me renvoie une personne blanche mangeant du riz parce que je suis blanc et que google le savait ? J'imagine que selon le lieu ou on tape cette recherche (genre entre Paris, Moscou et Pékin), les résultats changent de toute façon ? du coup pourquoi vouloir encore plus affiner le résultat ?

    J'avoue que les gens sont tous tellement dans le clivage en ce moment que je sais pas si j'aurais tenté le coup ^^
    Alors pas du tout, le but est de créer une échelle de couleur de peau qui parvienne à "représenter" simplement toutes les personnes.

    Je reprends ton exemple : "personne mangeant du riz"
    Le but n'est pas du tout de renvoyer des résultats correspondant à la couleur de peau de la personne qui recherche.

    Mais d'indiquer dans les attributs des photos du résultat, l'indication de l'échelle MST.
    On a déjà dans les attributs des infos du genre "personne vélo manger riz".

    donc tu verras dans les résultats par exemple 5 photos de personnes plutôt blanches avec une valeur MST entre 1 et 3 (qui correspond aux peaux clairs) et 4 photos de personnes à peau sombre avec une valeur MST entre 6 et 10.

    Du coup, dans les photos collectées pour entrainer ton machine learning, tu va pouvoir faire 2 jeux de données, un avec des couleurs de peaux claires (1 à 3) et l'autre sombre (6 à 10).
    Et donc améliorer les résultats.

    Et ceci pourrait s'appliquer avec tous les attributs/métadonnées qu'ils sont déjà capables de faire.

  8. #8
    Membre expérimenté
    Profil pro
    programmeur du dimanche
    Inscrit en
    novembre 2003
    Messages
    360
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations professionnelles :
    Activité : programmeur du dimanche
    Secteur : Santé

    Informations forums :
    Inscription : novembre 2003
    Messages : 360
    Points : 1 385
    Points
    1 385
    Par défaut
    Citation Envoyé par Bruno Voir le message
    L'entreprise a présenté une palette de dix teintes de peau qui permettra une meilleure représentativité des résultats de recherche, notamment sur Google Images.
    Si je comprends bien, afin qu'on ne leur reproche pas un manque d'inclusivité, il vont apprendre à leur IA à classer les humains par couleur de peau, puis appliquer des quotas ethniques selon des proportions à leur discrétion ? C'est un bon prisme de pensée américain où toute réflexion sociétale passe par ce qu'ils appellent la race.

    C'est sans doute naïf de considérer qu'il n'y a que des H. sapiens sapiens, et qu'on peut avoir des critères plus pertinents que la couleur de peau pour distinguer les humains.

  9. #9
    Membre extrêmement actif
    Homme Profil pro
    Consultant Ingenierie mécanique
    Inscrit en
    mars 2006
    Messages
    1 330
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Yvelines (Île de France)

    Informations professionnelles :
    Activité : Consultant Ingenierie mécanique
    Secteur : Transports

    Informations forums :
    Inscription : mars 2006
    Messages : 1 330
    Points : 3 197
    Points
    3 197
    Par défaut
    ne serait pas comme le captcha sauce google, un moyen pour google de paufinner ces algorithmes d'ia sur le dos des utilisateurs ?

  10. #10
    Membre confirmé
    Profil pro
    Inscrit en
    novembre 2003
    Messages
    110
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : novembre 2003
    Messages : 110
    Points : 595
    Points
    595
    Par défaut
    Non Fagus, c'est pas faire des quota ethniques ...


    En résumé, Google va changer l'échelle de couleur de ses moteurs de recherche d'Image pour se baser sur une échelle plus simple.
    Ils passeraient de Fitzpatrick (7 valeurs) à MST (10, avec une classification différente)
    https://fr.wikipedia.org/wiki/Classi...de_Fitzpatrick

    "Jusqu'à présent, Google s'est largement appuyé sur l'échelle de Fitzpatrick pour l'IA des photos. L'échelle MST est désormais intégrée à des produits tels que Google Photos et Image Search, et sera étendue encore plus largement dans les mois à venir."

    L'idée est de pouvoir mesurer les moteurs de Machine Learning / IA / ... pour s'assurer que l'entrainement couvre bien toute l'échelle.

Discussions similaires

  1. Réponses: 22
    Dernier message: 17/10/2014, 15h54
  2. Google intègre un système d’alerte à son moteur de recherche
    Par Hinault Romaric dans le forum APIs Google
    Réponses: 25
    Dernier message: 17/08/2011, 18h55
  3. Google intègre un système d’alerte à son moteur de recherche
    Par Hinault Romaric dans le forum Services
    Réponses: 25
    Dernier message: 17/08/2011, 18h55
  4. Google doit-il publier l'algorithme de son moteur de recherche ?
    Par Gordon Fowler dans le forum Actualités
    Réponses: 94
    Dernier message: 31/07/2010, 10h44
  5. Réponses: 2
    Dernier message: 23/10/2009, 18h58

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo