IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Intelligence artificielle Discussion :

Brad Smith de Microsoft demande un encadrement juridique de l'utilisation de la reconnaissance faciale


Sujet :

Intelligence artificielle

  1. #1
    Expert éminent sénior

    Homme Profil pro
    Journaliste
    Inscrit en
    janvier 2020
    Messages
    196
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Hauts de Seine (Île de France)

    Informations professionnelles :
    Activité : Journaliste
    Secteur : High Tech - Produits et services télécom et Internet

    Informations forums :
    Inscription : janvier 2020
    Messages : 196
    Points : 13 690
    Points
    13 690
    Par défaut Brad Smith de Microsoft demande un encadrement juridique de l'utilisation de la reconnaissance faciale
    Amazon annonce que la police ne pourra pas utiliser sa technologie de reconnaissance faciale pendant un an,
    suite aux manifestations liées à la mort de George Floyd

    Le 10 juin, Amazon a annoncé interdire pendant un an à la police d’utiliser son logiciel de reconnaissance faciale Rekognition, suite aux manifestations contre les violences policières et le racisme qui ont eu lieu aux États-Unis depuis la mort de l’Afro-Américain George Floyd. Pour rappel, ce dernier a été tué lors de son interpellation par quatre policiers et la scène a été filmée par des passants et des caméras de surveillance.

    Depuis le début de l’affaire, Amazon s’est exprimé en faveur du mouvement Black Lives Matter. Le 3 juin, l’entreprise a notamment annoncé un don de 10 millions de dollars à plusieurs organisations qui soutiennent les opportunités économiques, l’éducation et la justice pour les Afro-Américains. Mais de nombreuses voix ont continué à demander plus de mesures. L’Union américaine pour les libertés civiles (ACLU), une association à but non lucratif, est par exemple revenue sur l’utilisation de Rekognition par la police. En juillet 2018, l’association avait déjà mené un test pour simuler la manière dont les forces de l’ordre utilisaient le logiciel. Ce dernier avait alors identifié 28 membres du Congrès comme étant des criminels.

    Nom : amazon.PNG
Affichages : 1556
Taille : 300,4 Ko

    « Nous mettons en place un moratoire d'un an sur l'utilisation par la police de la technologie de reconnaissance faciale d'Amazon. Nous continuerons à permettre à des organisations comme Thorn, le Centre international pour les enfants disparus et exploités, et Marinus Analytics d'utiliser Amazon Rekognition pour aider à sauver les victimes de la traite des êtres humains et à réunir les enfants disparus avec leurs familles », a déclaré la société dans un billet de blog.

    « Nous avons plaidé pour que les gouvernements mettent en place des réglementations plus strictes pour régir l'utilisation éthique de la technologie de reconnaissance faciale, et ces derniers jours, le Congrès semble prêt à relever ce défi. Nous espérons que ce moratoire d'un an donnera au Congrès suffisamment de temps pour mettre en œuvre des règles appropriées, et nous sommes prêts à apporter notre aide si on nous le demande », a ajouté Amazon.

    Cette déclaration intervient un jour après celle d’IBM, annonçant son retrait du marché de la reconnaissance faciale, étant donné qu’elle sert au profilage racial.

    En réaction à l'annonce d’Amazon, Nicole Ozer, directrice de la technologie et des libertés civiles pour une branche californienne de l’ACLU, a déclaré : « Il a fallu deux ans à Amazon pour en arriver là, mais nous sommes heureux que la société reconnaisse enfin les dangers que la reconnaissance représente pour les communautés noires et brunes et, plus largement, pour les droits civils ».

    « La menace que représente cette technologie de surveillance pour nos droits et libertés civiles ne disparaîtra pas en un an. Amazon doit s'engager à respecter un moratoire général sur l'utilisation de la reconnaissance faciale par les forces de l'ordre jusqu'à ce que les dangers soient totalement éliminés, et doit faire pression sur le Congrès et les assemblées législatives de tout le pays pour qu'ils fassent de même. Elle doit également s'engager à cesser de vendre des systèmes de surveillance comme Ring, qui alimentent la surveillance excessive des communautés de couleur », a-t-elle ajouté.

    Par ailleurs, Nicole Ozer a également demandé à Microsoft et à d’autres sociétés de faire de même « pour aller vers le bon côté de l’histoire ».

    Sources : Amazon, ACLU

    Et vous ?

    Qu'en pensez-vous ?

    Voir aussi :

    IBM annonce qu'il se retire du marché de la reconnaissance faciale étant donné qu'elle sert au profilage racial, et appelle à une réforme de la police
    Le Vatican, IBM et Microsoft ensemble pour appeler à une réglementation de la reconnaissance faciale, et de façon générale, à une régulation de l'IA pour le bien de l'humanité
    San Francisco devient la première ville US à interdire l'usage de la reconnaissance faciale, pour des raisons en lien avec les droits de l'Homme
    Des agents de la police de New York utilisent l'application de reconnaissance faciale de Clearview AI, Twitter a demandé à la société de cesser d'utiliser des photos de son site, d'après un rapport
    L'Inde envisage un énorme programme de reconnaissance faciale comparable à celui de la Chine, opportunité lucrative pour les sociétés de surveillance ou cauchemar pour les défenseurs de la vie privée
    Contribuez au club : Corrections, suggestions, critiques, ... : Contactez le service news et Rédigez des actualités

  2. #2
    Membre du Club
    Profil pro
    Inscrit en
    août 2006
    Messages
    46
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : août 2006
    Messages : 46
    Points : 50
    Points
    50
    Par défaut nawak
    parce que les societes (hors police donc) ont des utilisations mylittleponeyland rose paillette de la reconnaissance faciale ?
    le but c'est quoi ? que la "police" tombent dans les mains du privé (ce qui vas arrivé au final, surtout s'ils profitent de l'affaire floyd pour ca)

  3. #3
    Inactif  


    Homme Profil pro
    Doctorant sécurité informatique — Diplômé master Droit/Économie/Gestion
    Inscrit en
    décembre 2011
    Messages
    9 012
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 29
    Localisation : France, Loire (Rhône Alpes)

    Informations professionnelles :
    Activité : Doctorant sécurité informatique — Diplômé master Droit/Économie/Gestion
    Secteur : Enseignement

    Informations forums :
    Inscription : décembre 2011
    Messages : 9 012
    Points : 23 191
    Points
    23 191
    Par défaut
    C'est vomissant de populisme.

    D'où une entreprise privée, se permet de punir une Institution de l'État, parce que cette dernière ne lui plaît pas ?

    Bonjour les dérives. Cette immixtion d'une société privée dans les affaire de l'État est intolérable. Ce serait une compagnie pétrolière/de pesticide/OGM/autre, on serait tous monté au créneau et crié au scandale.


    Mais c'est bien, pas de reconnaissance faciale... donc si la police cherche un pédophile, un meurtrier, un violeur, Amazon ne va pas leur permettre d'utiliser la reconnaissance faciale ?

    Pour moi, c'est ni plus ni moins qu'une forme de complicité.

  4. #4
    Membre habitué
    Homme Profil pro
    Développeur informatique
    Inscrit en
    juin 2020
    Messages
    63
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Loiret (Centre)

    Informations professionnelles :
    Activité : Développeur informatique

    Informations forums :
    Inscription : juin 2020
    Messages : 63
    Points : 159
    Points
    159
    Par défaut
    Juste histoire de faire du gauchia*

    Car l'association "L’Union américaine pour les libertés civiles" avaient dénoncé ce logiciel de reconnaissance uniquement par ce qu'il reconnaissait moins bien les femmes noires (toujours le même refrain).

    Mais les victimes des violences policières, ce n’est pas des hommes ???

  5. #5
    Expert éminent Avatar de BufferBob
    Profil pro
    responsable R&D vidage de truites
    Inscrit en
    novembre 2010
    Messages
    3 008
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations professionnelles :
    Activité : responsable R&D vidage de truites

    Informations forums :
    Inscription : novembre 2010
    Messages : 3 008
    Points : 8 340
    Points
    8 340
    Par défaut
    c'est surtout très démagogique, 1 an c'est demain.

    des sociétés privées qui se positionnent sur le terrain politique y'en a pleins, de plus en plus et c'est pas prêt d'aller en s'arrangeant, certains pensent même que le pouvoir finira par tomber aux mains des entreprises, devenues pour certaines plus légitimes que les états qui les régissent.

    aussi et pour rappel, en Chine (pour ne citer qu'elle) le gouvernement utilise la reconnaissance faciale pour surveiller les minorités Ouïghours, à quoi on ne manquera pas de faire un parallèle avec les dérives policières actuelles.

    en revanche depuis le temps qu'on nous rabat les oreilles avec "c'est pour lutter contre le terrorisme/la pédophilie/les nazis/les vampires/etc." force est de constater que les pédophiles doivent être infiniment nombreux parce que les états sont tous intéressés par ces technologies et lois qu'à une autre époque (une époque plus "gauchiasse" comme le souligneraient les grands intellectuels du nihilisme post 2000) on jugeait liberticides et très inquiétantes.

    je ne suis pas un révolutionnaire, mais étant donné le nombre d'anti-systèmes dans la population de nos jours, songez qu'avec toutes ces technologies, la révolution sanglante dont rêvent certains (que ce soit pour mettre à mal les riches, les élites ou autres qui ne nous plaisent pas) vous pouvez vous asseoir dessus définitivement.

  6. #6
    Membre du Club
    Profil pro
    pouty
    Inscrit en
    février 2004
    Messages
    44
    Détails du profil
    Informations personnelles :
    Localisation : France, Eure (Haute Normandie)

    Informations professionnelles :
    Activité : pouty

    Informations forums :
    Inscription : février 2004
    Messages : 44
    Points : 52
    Points
    52
    Par défaut
    Amazon fait du droit divin maintenant ?!!, c'est bien la mentalité américaine dans toute sa splendeur et je trouve de plus stupide qui soit !

    C'est intéressant ce que dit BufferBob, mais cette direction que prennent ces grosses entreprises n'est pas plus rassurante que le système politique que l'on connaît.

  7. #7
    Chroniqueur Actualités

    Homme Profil pro
    Administrateur de base de données
    Inscrit en
    mars 2013
    Messages
    6 854
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Canada

    Informations professionnelles :
    Activité : Administrateur de base de données

    Informations forums :
    Inscription : mars 2013
    Messages : 6 854
    Points : 157 874
    Points
    157 874
    Par défaut Brad Smith de Microsoft demande un encadrement juridique de l'utilisation de la reconnaissance faciale
    Brad Smith de Microsoft demande un encadrement juridique de l'utilisation de la reconnaissance faciale,
    estimant que le retrait du marché d'IBM, Amazon et Microsoft ne va pas nécessairement servir l'intérêt national

    Microsoft, Amazon et IBM, trois des plus grandes sociétés technologiques du monde, ont renoncé à vendre la reconnaissance faciale aux forces de l'ordre dans un contexte où des protestations fusent dans le monde entier contre la brutalité policière.

    La reconnaissance faciale devient un outil de plus en plus populaire pour les agences gouvernementales et les forces de l'ordre pour traquer les criminels, les terroristes ou les immigrants illégaux. Mais avec les manifestations de Black Lives Matter qui ont balayé le monde à la suite de la mort de George Floyd, il y a maintenant de nouveaux appels pour que les grandes entreprises technologiques cessent de vendre cet outil à la police. L'argument avancé depuis longtemps par les groupes de défense des droits civiques et les experts de l'IA est que la reconnaissance faciale affecte de manière disproportionnée les personnes de couleur de deux manières.

    Premièrement l'outil pourrait être inévitablement utilisé pour cibler plus souvent les personnes de couleur. Ensuite, les données utilisées pour créer un logiciel de reconnaissance faciale enracinent des préjugés raciaux, ce qui rend plus probable l’identification erronée des femmes et des personnes de couleur, ce qui entraînerait à son tour des arrestations plus injustifiées.

    Voici ce que les entreprises ont promis

    IBM

    IBM a été la première des trois sociétés à annoncer qu'elle se retirait du marché de la reconnaissance faciale et c'est également elle qui en a pris l'engagement le plus permanent.

    Le PDG Arvind Krishna a fait cette annonce dans une lettre aux membres du Congrès, notamment adressée aux sénateurs Cory Booker et Kamala Harris, le 8 juin :

    « IBM ne propose plus de logiciel de reconnaissance ou d'analyse faciale IBM à usage général. IBM s'oppose fermement et ne tolérera pas l'utilisation de toute technologie, y compris la technologie de reconnaissance faciale offerte par d'autres fournisseurs, pour la surveillance de masse, le profilage racial, les violations des droits et libertés fondamentaux de la personne, ou tout autre objectif non conforme à nos valeurs et principes de confiance et transparence. Nous pensons que le moment est venu d'entamer un dialogue national sur l'opportunité et la manière dont la technologie de reconnaissance faciale devrait être utilisée par les autorités nationales chargées de l'application des lois ».

    L'annonce a été saluée par beaucoup, dont la députée américaine Alexandria Ocasio-Cortez.

    Nom : Alex.png
Affichages : 1129
Taille : 14,7 Ko

    Eva Blum-Dumontet, chercheuse senior chez Privacy International spécialisée dans IBM, a déclaré que la cessation de la vente de logiciels « à usage général » donne à l'entreprise la possibilité de développer des logiciels personnalisés pour les clients :

    « Nous devrons voir ce que cela signifie dans la pratique. Il convient de garder à l'esprit qu'une grande partie du travail qu'IBM fait est en fait un travail personnalisé pour leurs clients, il est donc possible que nous ne voyions pas la fin d'IBM faisant la reconnaissance faciale pour tous, ils ne font que changer l'étiquette », a déclaré Blum-Dumontet.

    Amazon

    Amazon a annoncé le 10 juin qu'il suspendait la vente de son logiciel de reconnaissance faciale Rekognition aux forces de l'ordre pour un an.

    En fait, depuis le début de l’affaire, Amazon s’est exprimé en faveur du mouvement Black Lives Matter. Le 3 juin, l’entreprise a notamment annoncé un don de 10 millions de dollars à plusieurs organisations qui soutiennent les opportunités économiques, l’éducation et la justice pour les Afro-Américains. Mais de nombreuses voix ont continué à demander plus de mesures. L’Union américaine pour les libertés civiles (ACLU), une association à but non lucratif, est par exemple revenue sur l’utilisation de Rekognition par la police. En juillet 2018, l’association avait déjà mené un test pour simuler la manière dont les forces de l’ordre utilisaient le logiciel. Ce dernier avait alors identifié 28 membres du Congrès comme étant des criminels.

    Dans un billet de blog, la société a déclaré :

    « Nous mettons en place un moratoire d'un an sur l'utilisation par la police de la technologie de reconnaissance faciale d'Amazon. Nous continuerons à permettre à des organisations comme Thorn, le Centre international pour les enfants disparus et exploités, et Marinus Analytics d'utiliser Amazon Rekognition pour aider à sauver les victimes de la traite des êtres humains et à réunir les enfants disparus avec leurs familles

    « Nous avons plaidé pour que les gouvernements mettent en place des réglementations plus strictes pour régir l'utilisation éthique de la technologie de reconnaissance faciale, et ces derniers jours, le Congrès semble prêt à relever ce défi. Nous espérons que ce moratoire d'un an donnera au Congrès suffisamment de temps pour mettre en œuvre des règles appropriées, et nous sommes prêts à apporter notre aide si on nous le demande ».

    Le Dr Nakeema Stefflbauer, un expert en politique d'éthique de l'IA, a estimé que si la déclaration d'Amazon est un pas dans la bonne direction, elle ne traite pas de ce qui arrivera à tous les services de police qui disposent déjà du logiciel. « Au lieu de suspendre de nouvelles ventes, il serait également intéressant de rappeler le logiciel dans son ensemble, comme cela se fait couramment avec d'autres produits défectueux ou peu fiables », a déclaré Stefflbauer.

    Microsoft

    Le président des affaires juridiques de Microsoft, Brad Smith, a déclaré dans une interview au Washington Post, le jeudi 11 juin, que Microsoft ne vend pas de technologie de reconnaissance faciale aux forces de police américaines et s'est engagé à ne pas la vendre jusqu'à ce qu'une loi nationale régissant son utilisation soit adoptée.

    « Le point numéro un que je voudrais vraiment souligner est le suivant : nous devons vraiment profiter de ce moment pour appliquer une loi nationale solide régissant la reconnaissance faciale fondée sur la protection des droits de l'homme », a déclaré Smith.

    Cela est intervenu deux jours après que plus de 250 employés de Microsoft ont publié une lettre ouverte appelant l'entreprise à rompre les relations commerciales avec les forces de police de manière plus générale.

    Nom : wp.png
Affichages : 1271
Taille : 165,0 Ko

    Sans cadre juridique, d'autres entreprises pourraient se précipiter pour combler le vide

    Smith a averti que des grandes enseignes comme Microsoft, Amazon et IBM qui se retireraient entièrement du marché de la reconnaissance faciale pourraient signifier que de plus petites entreprises allaient se précipiter pour combler le vide.

    « Si toutes les entreprises responsables du pays cèdent ce marché à celles qui ne sont pas prêtes à prendre position, nous ne servirons pas nécessairement l'intérêt national ou la vie des Noirs et des Afro-Américains de cette nation. Il faut donc que le Congrès agisse, pas seulement les entreprises technologiques », a-t-il déclaré.

    Le Dr Nakeema Stefflbauer a exprimé des préoccupations similaires selon lesquelles des entreprises moins connues pourraient commencer à proposer la reconnaissance faciale à la police.

    « Du point de vue américain, ces annonces confirment le préjudice grave que la technologie de reconnaissance faciale non réglementée aux mains des forces de l'ordre a déjà causé aux Afro-Américains et à d'autres groupes [minoritaires] » a déclaré Stefflbauer.

    Le Dr Steffblauer a ajouté que des fournisseurs de moindre envergure tels que Clearview, Kairos et PredPol pouvaient continuer à vendre des technologies de reconnaissance faciale sans nouvelles lois, aussi bien aux États-Unis que dans l'UE.

    Elle a ajouté : « à mon avis, c'est le moment où les gouvernements américain et européen doivent prendre la réglementation technologique au sérieux et adopter une législation complète : ne pas le faire n'est rien de moins que donner la permission d'une attaque non contrôlée contre les droits de l'homme ».

    Joy Buolamwini, qui a examiné les biais dans la technologie de reconnaissance faciale d'Amazon, a également souligné la nécessité d'un cadre réglementaire : « Nous ne pouvons pas compter sur l'autorégulation », a-t-elle déclaré.

    Sources : Alexandria Ocasio-Cortez, Washington Post

    Et vous ?

    Que pensez-vous de ces réflexions ?

    Voir aussi :

    Corsight AI, une start-up israélienne récolte 5 millions USD pour développer et commercialiser une technologie de reconnaissance faciale permettant d'identifier les visages, même masqués
    Chine : même les porteurs de masques peuvent être identifiés, selon une société chinoise de reconnaissance faciale
    Le Vatican, IBM et Microsoft ensemble pour appeler à une réglementation de la reconnaissance faciale et de façon générale, à une régulation de l'IA pour le bien de l'humanité
    Contribuez au club : Corrections, suggestions, critiques, ... : Contactez le service news et Rédigez des actualités

  8. #8
    Membre éclairé
    Homme Profil pro
    Administrateur systèmes et réseaux
    Inscrit en
    août 2018
    Messages
    269
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 53
    Localisation : Autre

    Informations professionnelles :
    Activité : Administrateur systèmes et réseaux

    Informations forums :
    Inscription : août 2018
    Messages : 269
    Points : 744
    Points
    744
    Par défaut
    Ont-ils reversé le bénéfice engendré par ces technologies à des fondations humanistes reconnues comme étant de droit public ??

  9. #9
    Expert éminent Avatar de BufferBob
    Profil pro
    responsable R&D vidage de truites
    Inscrit en
    novembre 2010
    Messages
    3 008
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations professionnelles :
    Activité : responsable R&D vidage de truites

    Informations forums :
    Inscription : novembre 2010
    Messages : 3 008
    Points : 8 340
    Points
    8 340
    Par défaut
    donc si j'ai bien compris, les états voudraient s'équiper de technos de reconnaissances faciales, les GAFAM disent qu'ils sont pas d'accord, mais sans cadre juridique ça laisserait le champs libre à d'autres entreprises
    du coup l'idée ce serait que les états votent des lois pour s'empêcher eux-même de faire des appels d'offres pour s'équiper en reconnaissance faciale...

Discussions similaires

  1. Réponses: 4
    Dernier message: 10/07/2019, 17h10
  2. Réponses: 21
    Dernier message: 26/05/2019, 08h11
  3. Réponses: 8
    Dernier message: 29/01/2019, 09h47
  4. Réponses: 2
    Dernier message: 25/02/2016, 09h05
  5. [RMI] ClassNotFoundException que je ne comprends tjs pas
    Par Satch dans le forum API standards et tierces
    Réponses: 4
    Dernier message: 10/05/2007, 12h07

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo