1 pièce(s) jointe(s)
Brad Smith de Microsoft demande un encadrement juridique de l'utilisation de la reconnaissance faciale
Amazon annonce que la police ne pourra pas utiliser sa technologie de reconnaissance faciale pendant un an,
suite aux manifestations liées à la mort de George Floyd
Le 10 juin, Amazon a annoncé interdire pendant un an à la police d’utiliser son logiciel de reconnaissance faciale Rekognition, suite aux manifestations contre les violences policières et le racisme qui ont eu lieu aux États-Unis depuis la mort de l’Afro-Américain George Floyd. Pour rappel, ce dernier a été tué lors de son interpellation par quatre policiers et la scène a été filmée par des passants et des caméras de surveillance.
Depuis le début de l’affaire, Amazon s’est exprimé en faveur du mouvement Black Lives Matter. Le 3 juin, l’entreprise a notamment annoncé un don de 10 millions de dollars à plusieurs organisations qui soutiennent les opportunités économiques, l’éducation et la justice pour les Afro-Américains. Mais de nombreuses voix ont continué à demander plus de mesures. L’Union américaine pour les libertés civiles (ACLU), une association à but non lucratif, est par exemple revenue sur l’utilisation de Rekognition par la police. En juillet 2018, l’association avait déjà mené un test pour simuler la manière dont les forces de l’ordre utilisaient le logiciel. Ce dernier avait alors identifié 28 membres du Congrès comme étant des criminels.
« Nous mettons en place un moratoire d'un an sur l'utilisation par la police de la technologie de reconnaissance faciale d'Amazon. Nous continuerons à permettre à des organisations comme Thorn, le Centre international pour les enfants disparus et exploités, et Marinus Analytics d'utiliser Amazon Rekognition pour aider à sauver les victimes de la traite des êtres humains et à réunir les enfants disparus avec leurs familles », a déclaré la société dans un billet de blog.
« Nous avons plaidé pour que les gouvernements mettent en place des réglementations plus strictes pour régir l'utilisation éthique de la technologie de reconnaissance faciale, et ces derniers jours, le Congrès semble prêt à relever ce défi. Nous espérons que ce moratoire d'un an donnera au Congrès suffisamment de temps pour mettre en œuvre des règles appropriées, et nous sommes prêts à apporter notre aide si on nous le demande », a ajouté Amazon.
Cette déclaration intervient un jour après celle d’IBM, annonçant son retrait du marché de la reconnaissance faciale, étant donné qu’elle sert au profilage racial.
En réaction à l'annonce d’Amazon, Nicole Ozer, directrice de la technologie et des libertés civiles pour une branche californienne de l’ACLU, a déclaré : « Il a fallu deux ans à Amazon pour en arriver là, mais nous sommes heureux que la société reconnaisse enfin les dangers que la reconnaissance représente pour les communautés noires et brunes et, plus largement, pour les droits civils ».
« La menace que représente cette technologie de surveillance pour nos droits et libertés civiles ne disparaîtra pas en un an. Amazon doit s'engager à respecter un moratoire général sur l'utilisation de la reconnaissance faciale par les forces de l'ordre jusqu'à ce que les dangers soient totalement éliminés, et doit faire pression sur le Congrès et les assemblées législatives de tout le pays pour qu'ils fassent de même. Elle doit également s'engager à cesser de vendre des systèmes de surveillance comme Ring, qui alimentent la surveillance excessive des communautés de couleur », a-t-elle ajouté.
Par ailleurs, Nicole Ozer a également demandé à Microsoft et à d’autres sociétés de faire de même « pour aller vers le bon côté de l’histoire ».
Sources : Amazon, ACLU
Et vous ?
:fleche: Qu'en pensez-vous ?
Voir aussi :
:fleche: IBM annonce qu'il se retire du marché de la reconnaissance faciale étant donné qu'elle sert au profilage racial, et appelle à une réforme de la police
:fleche: Le Vatican, IBM et Microsoft ensemble pour appeler à une réglementation de la reconnaissance faciale, et de façon générale, à une régulation de l'IA pour le bien de l'humanité
:fleche: San Francisco devient la première ville US à interdire l'usage de la reconnaissance faciale, pour des raisons en lien avec les droits de l'Homme
:fleche: Des agents de la police de New York utilisent l'application de reconnaissance faciale de Clearview AI, Twitter a demandé à la société de cesser d'utiliser des photos de son site, d'après un rapport
:fleche: L'Inde envisage un énorme programme de reconnaissance faciale comparable à celui de la Chine, opportunité lucrative pour les sociétés de surveillance ou cauchemar pour les défenseurs de la vie privée
2 pièce(s) jointe(s)
Brad Smith de Microsoft demande un encadrement juridique de l'utilisation de la reconnaissance faciale
Brad Smith de Microsoft demande un encadrement juridique de l'utilisation de la reconnaissance faciale,
estimant que le retrait du marché d'IBM, Amazon et Microsoft ne va pas nécessairement servir l'intérêt national
Microsoft, Amazon et IBM, trois des plus grandes sociétés technologiques du monde, ont renoncé à vendre la reconnaissance faciale aux forces de l'ordre dans un contexte où des protestations fusent dans le monde entier contre la brutalité policière.
La reconnaissance faciale devient un outil de plus en plus populaire pour les agences gouvernementales et les forces de l'ordre pour traquer les criminels, les terroristes ou les immigrants illégaux. Mais avec les manifestations de Black Lives Matter qui ont balayé le monde à la suite de la mort de George Floyd, il y a maintenant de nouveaux appels pour que les grandes entreprises technologiques cessent de vendre cet outil à la police. L'argument avancé depuis longtemps par les groupes de défense des droits civiques et les experts de l'IA est que la reconnaissance faciale affecte de manière disproportionnée les personnes de couleur de deux manières.
Premièrement l'outil pourrait être inévitablement utilisé pour cibler plus souvent les personnes de couleur. Ensuite, les données utilisées pour créer un logiciel de reconnaissance faciale enracinent des préjugés raciaux, ce qui rend plus probable l’identification erronée des femmes et des personnes de couleur, ce qui entraînerait à son tour des arrestations plus injustifiées.
Voici ce que les entreprises ont promis
IBM
IBM a été la première des trois sociétés à annoncer qu'elle se retirait du marché de la reconnaissance faciale et c'est également elle qui en a pris l'engagement le plus permanent.
Le PDG Arvind Krishna a fait cette annonce dans une lettre aux membres du Congrès, notamment adressée aux sénateurs Cory Booker et Kamala Harris, le 8 juin :
« IBM ne propose plus de logiciel de reconnaissance ou d'analyse faciale IBM à usage général. IBM s'oppose fermement et ne tolérera pas l'utilisation de toute technologie, y compris la technologie de reconnaissance faciale offerte par d'autres fournisseurs, pour la surveillance de masse, le profilage racial, les violations des droits et libertés fondamentaux de la personne, ou tout autre objectif non conforme à nos valeurs et principes de confiance et transparence. Nous pensons que le moment est venu d'entamer un dialogue national sur l'opportunité et la manière dont la technologie de reconnaissance faciale devrait être utilisée par les autorités nationales chargées de l'application des lois ».
L'annonce a été saluée par beaucoup, dont la députée américaine Alexandria Ocasio-Cortez.
Eva Blum-Dumontet, chercheuse senior chez Privacy International spécialisée dans IBM, a déclaré que la cessation de la vente de logiciels « à usage général » donne à l'entreprise la possibilité de développer des logiciels personnalisés pour les clients :
« Nous devrons voir ce que cela signifie dans la pratique. Il convient de garder à l'esprit qu'une grande partie du travail qu'IBM fait est en fait un travail personnalisé pour leurs clients, il est donc possible que nous ne voyions pas la fin d'IBM faisant la reconnaissance faciale pour tous, ils ne font que changer l'étiquette », a déclaré Blum-Dumontet.
Amazon
Amazon a annoncé le 10 juin qu'il suspendait la vente de son logiciel de reconnaissance faciale Rekognition aux forces de l'ordre pour un an.
En fait, depuis le début de l’affaire, Amazon s’est exprimé en faveur du mouvement Black Lives Matter. Le 3 juin, l’entreprise a notamment annoncé un don de 10 millions de dollars à plusieurs organisations qui soutiennent les opportunités économiques, l’éducation et la justice pour les Afro-Américains. Mais de nombreuses voix ont continué à demander plus de mesures. L’Union américaine pour les libertés civiles (ACLU), une association à but non lucratif, est par exemple revenue sur l’utilisation de Rekognition par la police. En juillet 2018, l’association avait déjà mené un test pour simuler la manière dont les forces de l’ordre utilisaient le logiciel. Ce dernier avait alors identifié 28 membres du Congrès comme étant des criminels.
Dans un billet de blog, la société a déclaré :
« Nous mettons en place un moratoire d'un an sur l'utilisation par la police de la technologie de reconnaissance faciale d'Amazon. Nous continuerons à permettre à des organisations comme Thorn, le Centre international pour les enfants disparus et exploités, et Marinus Analytics d'utiliser Amazon Rekognition pour aider à sauver les victimes de la traite des êtres humains et à réunir les enfants disparus avec leurs familles
« Nous avons plaidé pour que les gouvernements mettent en place des réglementations plus strictes pour régir l'utilisation éthique de la technologie de reconnaissance faciale, et ces derniers jours, le Congrès semble prêt à relever ce défi. Nous espérons que ce moratoire d'un an donnera au Congrès suffisamment de temps pour mettre en œuvre des règles appropriées, et nous sommes prêts à apporter notre aide si on nous le demande ».
Le Dr Nakeema Stefflbauer, un expert en politique d'éthique de l'IA, a estimé que si la déclaration d'Amazon est un pas dans la bonne direction, elle ne traite pas de ce qui arrivera à tous les services de police qui disposent déjà du logiciel. « Au lieu de suspendre de nouvelles ventes, il serait également intéressant de rappeler le logiciel dans son ensemble, comme cela se fait couramment avec d'autres produits défectueux ou peu fiables », a déclaré Stefflbauer.
Microsoft
Le président des affaires juridiques de Microsoft, Brad Smith, a déclaré dans une interview au Washington Post, le jeudi 11 juin, que Microsoft ne vend pas de technologie de reconnaissance faciale aux forces de police américaines et s'est engagé à ne pas la vendre jusqu'à ce qu'une loi nationale régissant son utilisation soit adoptée.
« Le point numéro un que je voudrais vraiment souligner est le suivant : nous devons vraiment profiter de ce moment pour appliquer une loi nationale solide régissant la reconnaissance faciale fondée sur la protection des droits de l'homme », a déclaré Smith.
Cela est intervenu deux jours après que plus de 250 employés de Microsoft ont publié une lettre ouverte appelant l'entreprise à rompre les relations commerciales avec les forces de police de manière plus générale.
Sans cadre juridique, d'autres entreprises pourraient se précipiter pour combler le vide
Smith a averti que des grandes enseignes comme Microsoft, Amazon et IBM qui se retireraient entièrement du marché de la reconnaissance faciale pourraient signifier que de plus petites entreprises allaient se précipiter pour combler le vide.
« Si toutes les entreprises responsables du pays cèdent ce marché à celles qui ne sont pas prêtes à prendre position, nous ne servirons pas nécessairement l'intérêt national ou la vie des Noirs et des Afro-Américains de cette nation. Il faut donc que le Congrès agisse, pas seulement les entreprises technologiques », a-t-il déclaré.
Le Dr Nakeema Stefflbauer a exprimé des préoccupations similaires selon lesquelles des entreprises moins connues pourraient commencer à proposer la reconnaissance faciale à la police.
« Du point de vue américain, ces annonces confirment le préjudice grave que la technologie de reconnaissance faciale non réglementée aux mains des forces de l'ordre a déjà causé aux Afro-Américains et à d'autres groupes [minoritaires] » a déclaré Stefflbauer.
Le Dr Steffblauer a ajouté que des fournisseurs de moindre envergure tels que Clearview, Kairos et PredPol pouvaient continuer à vendre des technologies de reconnaissance faciale sans nouvelles lois, aussi bien aux États-Unis que dans l'UE.
Elle a ajouté : « à mon avis, c'est le moment où les gouvernements américain et européen doivent prendre la réglementation technologique au sérieux et adopter une législation complète : ne pas le faire n'est rien de moins que donner la permission d'une attaque non contrôlée contre les droits de l'homme ».
Joy Buolamwini, qui a examiné les biais dans la technologie de reconnaissance faciale d'Amazon, a également souligné la nécessité d'un cadre réglementaire : « Nous ne pouvons pas compter sur l'autorégulation », a-t-elle déclaré.
Sources : Alexandria Ocasio-Cortez, Washington Post
Et vous ?
:fleche: Que pensez-vous de ces réflexions ?
Voir aussi :
:fleche: Corsight AI, une start-up israélienne récolte 5 millions USD pour développer et commercialiser une technologie de reconnaissance faciale permettant d'identifier les visages, même masqués
:fleche: Chine : même les porteurs de masques peuvent être identifiés, selon une société chinoise de reconnaissance faciale
:fleche: Le Vatican, IBM et Microsoft ensemble pour appeler à une réglementation de la reconnaissance faciale et de façon générale, à une régulation de l'IA pour le bien de l'humanité
