IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

  1. #1
    Chroniqueur Actualités

    Homme Profil pro
    Consultant informatique
    Inscrit en
    avril 2018
    Messages
    1 548
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Côte d'Ivoire

    Informations professionnelles :
    Activité : Consultant informatique
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : avril 2018
    Messages : 1 548
    Points : 35 924
    Points
    35 924
    Par défaut La technologie de reconnaissance faciale peut-elle révéler une orientation politique ?
    La technologie de reconnaissance faciale peut-elle révéler une orientation politique ?
    Elle peut prédire la tendance politique d'une personne avec une précision de 72 %, selon une étude de Stanford

    Une nouvelle étude publiée le 11 janvier dans Scientific Reports du groupe Nature affirme qu'un algorithme open source de reconnaissance faciale peut exposer, avec une précision de 72 %, l'orientation politique d'une personne (par exemple, libérale ou conservatrice) à partir d'une seule image de profil dans les médias sociaux, tels que Facebook. L'auteur de l'étude, Michal Kosinski, affirme que cela pose des risques considérables pour la vie privée et les libertés civiles, mais dit que cela n’est pas spécifique à son algorithme, même si d’autres entreprises sont réticentes à révéler la précision de leurs modèles.

    Michal Kosinski, professeur associé à la Graduate School of Business de l'Université de Stanford, a publié de nombreux ouvrages sur les implications sociales de la technologie de reconnaissance faciale. Certaines de ses études antérieures sur le profilage algorithmique ont suscité une grande controverse, par exemple son article de 2018 sur l'utilisation de l'IA pour détecter l'orientation sexuelle. Selon son récent rapport, un algorithme montre une plus grande précision dans la déduction de l'orientation politique d'une personne que le jugement humain ou un test de personnalité.

    Nom : r01.jpg
Affichages : 1521
Taille : 34,4 Ko

    Selon le rapport, l'étude de Kosinski a appliqué un algorithme de reconnaissance faciale à 1 085 795 visages obtenus à partir de profils de médias sociaux en ligne. Sur cet ensemble de données, 977 777 provenaient d'utilisateurs de sites de rencontres aux États-Unis, au Royaume-Uni et au Canada qui avaient déclaré eux-mêmes leur orientation politique. Les 108 018 autres visages proviennent d'utilisateurs de Facebook aux États-Unis qui ont également déclaré leur orientation politique et ont en outre rempli un test de personnalité en 100 points.

    L'algorithme a comparé les traits du visage de chaque participant aux traits du visage moyen des libéraux et des conservateurs. La technologie a utilisé ces mesures de similarité pour déterminer la probabilité qu'un participant soit un conservateur ou un libéral.

    Les résultats ont montré que l'algorithme était capable de prédire l'orientation politique de manière alarmante et avec une précision similaire dans tous les pays et sur toutes les plateformes de médias sociaux, d’après le rapport. Parmi les utilisateurs américains de Facebook, cette précision a atteint 73 %. Parmi les utilisateurs américains de sites de rencontres, la précision était de 72 %. Parmi les utilisateurs de sites de rencontres au Royaume-Uni et au Canada, la précision a atteint 70 % et 71 %, respectivement.

    Nom : r02.png
Affichages : 1561
Taille : 82,3 Ko

    Kosinski note que l'algorithme a été nettement plus performant que les humains, qui ne sont capables de distinguer entre un libéral et un conservateur qu'avec une précision de 55 %, soit un peu plus que le hasard. « Les algorithmes excellent dans la reconnaissance de modèles dans d'énormes ensembles de données qu'aucun humain ne pourrait jamais traiter », a écrit Kosinski. De plus, les algorithmes « nous surpassent de plus en plus dans les tâches visuelles allant du diagnostic du cancer de la peau à la reconnaissance faciale en passant par le jugement des attributs intimes basé sur le visage ».

    L'orientation politique est liée à certains traits démographiques qui peuvent être facilement observés sur le visage. Par exemple, aux États-Unis, les conservateurs sont plus susceptibles d'être blancs, âgés et de sexe masculin, a écrit Kosinski. Pour déterminer si ces traits démographiques sont à l'origine de la précision de l'algorithme, le chercheur a recalculé l'analyse en comparant uniquement des paires de visages ayant le même sexe, le même âge et la même origine ethnique. La précision n'a baissé que d'environ 3,5 %, ce qui suggère que de nombreuses caractéristiques faciales autres que les traits démographiques fournissent des indices sur l'orientation politique.

    En outre, l’algorithme de reconnaissance faciale de Kosinski a mieux prédit l'orientation politique que les tests de personnalité effectués par les utilisateurs de Facebook. « Combinés, cinq facteurs de personnalité ont prédit l'orientation politique avec une précision de 66 %, ce qui est nettement inférieur à ce qui a été obtenu par le classificateur basé sur le visage dans le même échantillon (73 %) », a rapporté Kosinski. « En d'autres termes, une seule image faciale en dit plus sur l'orientation politique d'une personne que ses réponses à un questionnaire de personnalité assez long, comprenant de nombreux éléments ostensiblement liés à l'orientation politique (par exemple, "Je traite tout le monde de la même manière" ou "Je pense que trop d'argent des impôts va au soutien des artistes") ».

    Préoccupations en matière de protection de la vie privée

    Le chercheur a également cherché à savoir si certains traits du visage étaient liés à l'orientation politique, notamment l'expression du visage, les lunettes, la pilosité faciale et l’orientation de la tête. Kosinski a découvert que l'orientation de la tête avait un pouvoir prédictif de 58 %, les libéraux étant plus susceptibles de faire face directement à la caméra. L'expression émotionnelle avait un pouvoir prédictif de 57 %, les libéraux étant plus susceptibles de montrer de la surprise et moins susceptibles de montrer du dégoût, d’après l’étude.

    Nom : r03.png
Affichages : 1491
Taille : 70,2 Ko

    La plupart des objections les plus passionnées à l'égard des travaux de Kosinski proviennent de membres de groupes sociaux qui craignent (à juste titre) que la technologie de reconnaissance faciale ne fasse que renforcer et légitimer les préjugés sexistes, sexuels et ethniques qui sont endémiques dans nos sociétés. Le chercheur a mis à disposition le code source et l'ensemble des données du projet, mais pas les images réelles, en invoquant les implications en matière de vie privée.

    Des critiques, comme le professeur Alexander Todorov de Princeton, craignent que, comme nous le voyons dans l'exploitation impitoyable de cette technologie par certains pays comme la Chine, elle puisse conduire à la discrimination, à l'exclusion et peut-être même au génocide. L'argument est qu'en publiant des recherches qui semblent donner du crédit aux revendications de l'industrie technologique en matière de reconnaissance faciale, Kosinski la rend effectivement respectable dans les milieux corporatifs et autoritaires.

    Toutefois, bien que certains aient exprimé des préoccupations en matière de protection de la vie privée concernant ces nouvelles capacités de surveillance, l'auteur de la nouvelle étude affirme que ces préoccupations ne représentent que la partie émergée de l'iceberg. « Depuis plus d'une décennie maintenant, j'étudie les risques pour la vie privée liés aux algorithmes et aux données volumineuses », a déclaré le chercheur Kosinski.

    « Les entreprises collectent des données et développent des algorithmes visant à extraire des informations de ces données, mais elles sont réticentes à révéler la précision de ces modèles. En 2012, par exemple, Facebook a breveté un algorithme visant à extraire les traits psychologiques de "Facebook Likes". J'ai examiné leur approche et démontré qu'elle pouvait exposer avec précision des traits allant de l'orientation sexuelle à la personnalité ».

    « Plus récemment, j'ai porté mon attention sur les algorithmes de reconnaissance faciale développés par des entreprises et des informaticiens. Mon étude la plus récente confirme leurs affirmations : malheureusement, il est possible de prédire avec précision l'orientation politique à partir des images faciales », a expliqué Kosinski.

    Todorov met en doute les résultats des travaux de Kosinski, affirmant également que des méthodes utilisées dans l’étude sur la reconnaissance faciale, dont parle le rapport, sont techniquement défectueuses. Selon lui, les motifs relevés par un algorithme comparant des millions de photos pourraient n'avoir que peu de rapport avec les caractéristiques faciales. Par exemple, les photos autopubliées sur les sites de rencontres donnent un certain nombre d'indices non faciaux.

    De plus, les recherches actuelles en psychologie montrent qu'à l'âge adulte, la personnalité est surtout influencée par l'environnement. « Bien qu'il soit potentiellement possible de prédire la personnalité à partir d'une photo, c'est au mieux légèrement mieux que le hasard dans le cas des humains », a déclaré lors d'une récente interview Daniel Preotiuc-Pietro, un chercheur postdoctoral de l'Université de Pennsylvanie qui a travaillé sur la prédiction de la personnalité à partir d'images de profil.

    Source : Rapport d’étude

    Et vous ?

    Que pensez-vous de cette étude ? Pertinente ou pas ?
    Quel commentaire faites-vous de la précision (72 %) avec laquelle l’algorithme de reconnaissance faciale prédit l’orientation politique d'une personne ?
    Quel est votre avis sur la mise à disposition du code source de cet outil ? Y a-t-il des conséquences ?

    Voir aussi :

    Le port d'un masque n'empêchera plus la reconnaissance faciale, le coronavirus ayant incité les sociétés à développer des solutions pour les personnes dont le visage est partiellement couvert
    L'utilisation de la reconnaissance faciale par la police viole les droits de l'homme, selon un tribunal britannique, cependant, la Cour n'a pas complètement interdit l'utilisation de la technologie
    Le taux d'erreurs des algorithmes de reconnaissance faciale conçus pour détecter le contour des masques faciaux a augmenté, selon une étude de l'Institut US des normes et de la technologie
    Facebook veut utiliser la reconnaissance faciale pour vous prévenir, lorsque quelqu'un publie une photo de vous sur sa plateforme
    Contribuez au club : Corrections, suggestions, critiques, ... : Contactez le service news et Rédigez des actualités

  2. #2
    Responsable Systèmes


    Homme Profil pro
    Technicien maintenance
    Inscrit en
    août 2011
    Messages
    14 684
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Technicien maintenance
    Secteur : High Tech - Matériel informatique

    Informations forums :
    Inscription : août 2011
    Messages : 14 684
    Points : 34 020
    Points
    34 020
    Par défaut
    Minority Report.
    Ma page sur developpez.com : http://chrtophe.developpez.com/ (avec mes articles)
    Mon article sur le P2V, mon article sur le cloud
    Consultez nos FAQ : Windows, Linux, Virtualisation

  3. #3
    Expert éminent
    Avatar de Matthieu Vergne
    Homme Profil pro
    Consultant IT, chercheur IA indépendant
    Inscrit en
    novembre 2011
    Messages
    2 198
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France

    Informations professionnelles :
    Activité : Consultant IT, chercheur IA indépendant
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : novembre 2011
    Messages : 2 198
    Points : 7 390
    Points
    7 390
    Billets dans le blog
    3
    Par défaut
    Pour résumer, on parle d'un système de prédiction binaire (libéral vs. conservateur). Au pire, il ne peut pas faire moins que 50% de précision. Il s'agit des prédictions les plus faciles à faire. Or ici on parle d'une précision de l'ordre de 72%... C'est naze, ça vaut rien ! On n'arrive même pas à en identifier 3/4 alors qu'au pif on sait déjà en identifier 2/4. Qu'on me parle de 90% pour du binaire, là je me poserai des questions. Mais si avec du binaire on arrive à faire un peu mieux que 50%, avec 3 partis différents (33% au pif) on peut espérer monter à combien ? 45% de précision ? Et avec 4 partis (25% au pif) à 32% ? Je n'attend rien d'un tel système prédictif.

    Si les réflexions sur l'usage de ces technos est pertinente, cet exemple n'apporte rien au débat. Avant de l'utiliser pour faire de la discrimination, il faudrait déjà qu'il donne des résultats exploitables, et on en est loin.
    Site perso
    Recommandations pour débattre sainement

    Références récurrentes :
    The Cambridge Handbook of Expertise and Expert Performance
    L’Art d’avoir toujours raison (ou ce qu'il faut éviter pour pas que je vous saute à la gorge {^_^})

  4. #4
    Responsable Systèmes


    Homme Profil pro
    Technicien maintenance
    Inscrit en
    août 2011
    Messages
    14 684
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Technicien maintenance
    Secteur : High Tech - Matériel informatique

    Informations forums :
    Inscription : août 2011
    Messages : 14 684
    Points : 34 020
    Points
    34 020
    Par défaut
    C'est la que c'est flippant, la précision de 72% semblant importante. Si ça s'améliore, bonjour le fichage d'opinion automatisé, si ça stagne, bonjour le fichage d'opinion automatisé et erroné.
    Ma page sur developpez.com : http://chrtophe.developpez.com/ (avec mes articles)
    Mon article sur le P2V, mon article sur le cloud
    Consultez nos FAQ : Windows, Linux, Virtualisation

  5. #5
    Expert éminent
    Avatar de Matthieu Vergne
    Homme Profil pro
    Consultant IT, chercheur IA indépendant
    Inscrit en
    novembre 2011
    Messages
    2 198
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France

    Informations professionnelles :
    Activité : Consultant IT, chercheur IA indépendant
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : novembre 2011
    Messages : 2 198
    Points : 7 390
    Points
    7 390
    Billets dans le blog
    3
    Par défaut
    Citation Envoyé par chrtophe Voir le message
    C'est la que c'est flippant, la précision de 72% semblant importante. Si ça s'améliore, bonjour le fichage d'opinion automatisé, si ça stagne, bonjour le fichage d'opinion automatisé et erroné.
    On n'a pas besoin de ce système pour le mettre en place : on te fait un système à 50% (alias "random") et on l'utilise comme base et voilà le fichage d'opinion automatisé et erroné ! 72% c'est pas plus exploitable que 50%. Si on me sort un résultat bien plus important, là ça peut servir d'illustration au problème, mais ici la seule valeur est la réflexion générale. L'étude en elle-même n'apporte pas grand chose.

    Dit autrement, cette étude fait partie des études où on peut dire qu'on n'a pas réussit à établir une prédiction binaire exploitable sur la base de photos. S'il est important de publier ce genre de choses autant que le reste, pour autant de tels résultats ne sont pas en faveur de la capacité de prédiction dont il est question ici. N'importe quelle étude faisant aussi bien que de l'aléatoire aurait pu être utilisé s'il s'agissait juste de dire "y'en a qui cherchent, imaginez qu'un jour ils y arrivent !".
    Site perso
    Recommandations pour débattre sainement

    Références récurrentes :
    The Cambridge Handbook of Expertise and Expert Performance
    L’Art d’avoir toujours raison (ou ce qu'il faut éviter pour pas que je vous saute à la gorge {^_^})

  6. #6
    Membre chevronné
    Profil pro
    Inscrit en
    décembre 2007
    Messages
    706
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : décembre 2007
    Messages : 706
    Points : 1 851
    Points
    1 851
    Par défaut
    A parce que maintenant il y a un lien entre ton visage et ton orientation politique et ceci sans même avoir parlé à la personne. Dans le genre arnaque.

  7. #7
    Membre du Club
    Homme Profil pro
    Administrateur systèmes et réseaux
    Inscrit en
    octobre 2018
    Messages
    25
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Rhône (Rhône Alpes)

    Informations professionnelles :
    Activité : Administrateur systèmes et réseaux
    Secteur : Aéronautique - Marine - Espace - Armement

    Informations forums :
    Inscription : octobre 2018
    Messages : 25
    Points : 58
    Points
    58
    Par défaut
    Pour résumer, on parle d'un système de prédiction binaire (libéral vs. conservateur). Au pire, il ne peut pas faire moins que 50% de précision. Il s'agit des prédictions les plus faciles à faire. Or ici on parle d'une précision de l'ordre de 72%... C'est naze, ça vaut rien ! On n'arrive même pas à en identifier 3/4 alors qu'au pif on sait déjà en identifier 2/4. Qu'on me parle de 90% pour du binaire, là je me poserai des questions. Mais si avec du binaire on arrive à faire un peu mieux que 50%, avec 3 partis différents (33% au pif) on peut espérer monter à combien ? 45% de précision ? Et avec 4 partis (25% au pif) à 32% ? Je n'attend rien d'un tel système prédictif.
    C'est vrai on peut faire la même chose pour définir si quelqu'un est de droite ou gauche (je pense que tu es de droite) mais justement une IA fonctionne avec engrangement de données plus tu lui fournis d'infos sur les personnes et que tu fait correspondre ces données à quelque chose, au bout d'un moment l'IA aura un meilleur taux de réussite. Elle apprendra de ses erreurs beaucoup plus vite que nous. Et sera bien plus rapide qu'un humain pour identifier un nombre conséquent de personnes.

  8. #8
    Expert éminent
    Avatar de Matthieu Vergne
    Homme Profil pro
    Consultant IT, chercheur IA indépendant
    Inscrit en
    novembre 2011
    Messages
    2 198
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France

    Informations professionnelles :
    Activité : Consultant IT, chercheur IA indépendant
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : novembre 2011
    Messages : 2 198
    Points : 7 390
    Points
    7 390
    Billets dans le blog
    3
    Par défaut
    À la condition qu'il y ait effectivement des tendances à extraire de ces données. Or ici on parle d'un million d'exemples, c'est beaucoup de données pour une simple prédiction binaire. Et malgré ça ils ne font que 72% de réussite. Autant dire que cet algorithme ne tire pas grand chose de ce jeu de données. En donner davantage n'apportera rien de significatif. Il faut soit changer l'algo, soit changer les données, soit le deux.
    Site perso
    Recommandations pour débattre sainement

    Références récurrentes :
    The Cambridge Handbook of Expertise and Expert Performance
    L’Art d’avoir toujours raison (ou ce qu'il faut éviter pour pas que je vous saute à la gorge {^_^})

  9. #9
    Membre extrêmement actif

    Profil pro
    Inscrit en
    janvier 2011
    Messages
    2 981
    Détails du profil
    Informations personnelles :
    Localisation : Belgique

    Informations forums :
    Inscription : janvier 2011
    Messages : 2 981
    Points : 4 247
    Points
    4 247
    Par défaut
    Bonsoir

    La technologie de reconnaissance faciale peut-elle révéler une orientation politique ? Elle peut prédire la tendance politique d'une personne avec une précision de 72 %, selon une étude de Stanford.

    Que pensez-vous de cette étude ? Pertinente ou pas ?
    L'idée de fond faire coller un faciesse à un idéo politique est assez alarmant .. voir discriminant dans certains contextes politiques ou de surveillance de masse

    Quel commentaire faites-vous de la précision (72 %) avec laquelle l’algorithme de reconnaissance faciale prédit l’orientation politique d'une personne ?
    Comme dit par d'autre le modèle binaire est plus que gênant ... A ou B . La même experience avec

    Quel est votre avis sur la mise à disposition du code source de cet outil ? Y a-t-il des conséquences ?
    Cela me dérange ... quid des faux positif ou du fichage dans certains contexte politique / sécuritaire ?

    Citation Envoyé par chrtophe Voir le message
    Minority Report.
    Exactement

    Citation Envoyé par Matthieu Vergne Voir le message
    Pour résumer, on parle d'un système de prédiction binaire (libéral vs. conservateur). Au pire, il ne peut pas faire moins que 50% de précision. Il s'agit des prédictions les plus faciles à faire. Or ici on parle d'une précision de l'ordre de 72%... C'est naze, ça vaut rien ! On n'arrive même pas à en identifier 3/4 alors qu'au pif on sait déjà en identifier 2/4. Qu'on me parle de 90% pour du binaire, là je me poserai des questions. Mais si avec du binaire on arrive à faire un peu mieux que 50%, avec 3 partis différents (33% au pif) on peut espérer monter à combien ? 45% de précision ? Et avec 4 partis (25% au pif) à 32% ? Je n'attend rien d'un tel système prédictif.

    Si les réflexions sur l'usage de ces technos est pertinente, cet exemple n'apporte rien au débat. Avant de l'utiliser pour faire de la discrimination, il faudrait déjà qu'il donne des résultats exploitables, et on en est loin.
    Citation Envoyé par chrtophe Voir le message
    C'est la que c'est flippant, la précision de 72% semblant importante. Si ça s'améliore, bonjour le fichage d'opinion automatisé, si ça stagne, bonjour le fichage d'opinion automatisé et erroné.
    Pour mener une étude bien plus efficace je propose la même chose avec tous les courants politiques :

    anarchiste
    trotskiste
    marxiste
    communiste
    écologiste
    socialiste
    sociale démocrate
    chrétien démocrate
    démocrate
    centriste gauche
    centriste
    centriste droit
    droite
    extrême droite
    libéral
    ultra libérale
    néo libéral
    conservateur
    ultra conservateur
    nationaliste
    indépendantiste
    sécessionniste
    autonomiste
    fasciste
    républicain



    La on va rigoler

Discussions similaires

  1. Réponses: 21
    Dernier message: 26/05/2019, 08h11
  2. Réponses: 8
    Dernier message: 29/01/2019, 09h47
  3. Réponses: 3
    Dernier message: 07/07/2017, 17h14
  4. Réponses: 4
    Dernier message: 30/08/2016, 17h52
  5. Réponses: 11
    Dernier message: 18/03/2015, 09h33

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo