Discussion :

[Nancy Rey]

IBM a promis de réduire la technologie de reconnaissance faciale, mais a récemment décroché un contrat de 70 millions de dollars pour la développer
à nouveau

En juin 2020, IBM a informé le Congrès qu'elle avait mis en veilleuse ses lignes de produits d'analyse et de reconnaissance faciale à usage général en raison de préoccupations liées à la surveillance de masse et au profilage racial. Le PDG Arvind Krishna a décrit les changements dans un billet de blog partagé sur le site web d'IBM qui incluait une copie de la lettre envoyée au Congrès. Ce billet ne figure plus sur le site web d'IBM. Mais pourquoi ? Selon des documents examinés par Liberty Investigations et The Verge, IBM a signé un contrat de 69,8 millions de dollars avec le gouvernement britannique pour créer une plateforme biométrique dotée d'une fonctionnalité de reconnaissance faciale le mois dernier. Le système sera utilisé comme outil pour les agences d'immigration et d'application de la loi.

Lors des manifestations de Black Lives Matter en 2020, IBM a annoncé qu'elle ne proposerait plus de technologie de reconnaissance faciale "à usage général" en raison des préoccupations liées au profilage racial, à la surveillance de masse et à d'autres violations des droits de l'homme. Malgré ces annonces, IBM a signé le mois dernier un contrat de 69,8 millions de dollars avec le gouvernement britannique pour développer une plateforme biométrique nationale qui offrira une fonction de reconnaissance faciale aux agents de l'immigration et des forces de l'ordre, selon des documents examinés par The Verge et Liberty Investigates, une unité de journalisme d'investigation au Royaume-Uni.

Un document relatif au contrat présente les cinq étapes du programme BMPS (Biometric Matcher Platform and associated Services). La phase trois fait référence à un algorithme de visage qui permettra une comparaison stratégique des visages à des fins d'application de la loi. La plateforme permettra de comparer des photos d'individus à des images stockées dans une base de données - ce qui est parfois appelé un système de comparaison "un-à-plusieurs". En septembre 2020, IBM a décrit ces systèmes de correspondance "un-à-plusieurs" comme "le type de technologie de reconnaissance faciale le plus susceptible d'être utilisé pour la surveillance de masse, le profilage racial ou d'autres violations des droits de l'homme".

Interrogé à ce sujet, le porte-parole d'IBM, Imtiaz Mufti, s'en est tenu à la position de l'entreprise pour 2020. « IBM ne propose plus de reconnaissance faciale à usage général et, conformément à notre engagement pour 2020, ne soutient pas l'utilisation de la reconnaissance faciale pour la surveillance de masse, le profilage racial ou d'autres violations des droits de l'homme », a déclaré Mufti. Le porte-parole a ajouté que le programme BMPS n'est pas utilisé pour la surveillance de masse et qu'il n'est pas capable d'ingérer des vidéos, ce qui est souvent nécessaire pour la numérisation biométrique d'un visage dans une foule. Il utilise plutôt les empreintes digitales et les données photographiques pour aider la police et les services d'immigration à identifier les suspects.

Les défenseurs des droits de l'Homme réagissent

Tout le monde n'est pas d'accord avec le point de vue d'IBM. Matt Mahmoudi, docteur en technologie et chercheur à Amnesty International, a déclaré qu'il n'existait pas d'application de la reconnaissance faciale un-à-plusieurs compatible avec les droits de l'homme. « Les entreprises, y compris IBM, doivent donc cesser de vendre ces outils et honorer leurs déclarations antérieures, même et surtout dans le contexte de l'application de la loi et de l'immigration, où les implications en matière de droits de l'homme sont considérables », a ajouté Mahmoudi.

Kojo Kyerewaa de Black Lives Matter UK a déclaré : « IBM a montré qu'elle était prête à piétiner le corps et la mémoire de George Floyd pour obtenir un contrat du ministère de l'intérieur. Cela ne sera pas oublié ».

L'utilisation de la reconnaissance faciale par la police a été liée à des arrestations injustifiées aux États-Unis et a été contestée devant les tribunaux britanniques. En 2019, un rapport indépendant sur l'utilisation de la reconnaissance faciale en direct par la police métropolitaine de Londres a conclu qu'il n'y avait pas de « base juridique explicite » pour l'utilisation de la technologie par les forces de police et a soulevé des inquiétudes quant à une éventuelle violation de la législation sur les droits de l'homme. En août de l'année suivante, la Cour d'appel du Royaume-Uni a jugé que l'utilisation de la technologie de reconnaissance faciale par la police du Pays de Galles du Sud violait le droit à la vie privée et les lois sur l'égalité. La police a suspendu son utilisation de la reconnaissance faciale après le verdict, mais a depuis repris l'utilisation de cette technologie.

Il convient de noter que d'autres grands acteurs de la technologie ont suivi l'exemple d'IBM en 2020. Quelques jours seulement après la publication de la lettre d'IBM au Congrès, Amazon et Microsoft ont déclaré qu'ils cesseraient de vendre leur technologie de reconnaissance faciale à la police.

Amazon a d'abord annoncé un moratoire d'un an sur l'utilisation par la police de son logiciel Rekognition en juin 2020 et a déclaré qu'elle prolongerait l'interdiction "indéfiniment" l'année suivante. Une porte-parole de l'entreprise a confirmé que le moratoire, qui interdit « l'utilisation de la fonction de comparaison de visages d'Amazon Rekognition par les services de police dans le cadre d'enquêtes criminelles », est toujours en vigueur.

Microsoft a déclaré en juin 2020 qu'elle ne vendrait pas de logiciel de reconnaissance faciale aux services de police américains tant qu'une loi nationale régissant l'utilisation de cette technologie n'aura pas été adoptée. Une porte-parole de Microsoft a renvoyé au site web de l'entreprise, qui indique que l'utilisation du service Azure AI Face « par ou pour la police locale ou d'État aux États-Unis est interdite par la politique de Microsoft ».

Source : Liberty Investigations

Et vous ?

Que pensez-vous de cette décision de IBM ?

Voir aussi :

Reconnaissance faciale : Microsoft appelle à une régulation mondiale avant que cette technologie ne devienne problématique au sein de la société

Le président de Microsoft a déclaré que sans la réglementation de la technologie de reconnaissance faciale, 2024 pourrait ressembler au roman « 1984 »

La reconnaissance faciale comme méthode de sécurité est inutile pour 4 smartphones sur 10, d'après une étude