Discussion :

[Stan Adkens]

La proposition de San Francisco interdirait l'utilisation de la reconnaissance faciale par le gouvernement dans la ville
Créant un précédent aux USA

Un nouveau projet de loi interdisant l’utilisation de la technologie de reconnaissance faciale dans toute la ville de San Francisco qui doit être proposé par le superviseur Aaron Peskin et qui a déjà obtenu l'appui des groupes de défense des droits civils, dont l'ACLU (The American Civil Liberties Union) de la Californie du Nord, attend d’être entendu en comité le mois prochain, a rapporté San Francisco Examiner (Sfexaminer). Selon un article publié par Sfexaminer le mardi dernier, le nouveau projet obligerait les services de la ville à demander l'approbation du conseil des superviseurs avant d'utiliser ou d'acheter une technologie de surveillance. Le projet de loi créerait également des vérifications annuelles de la technologie de surveillance pour s'assurer que les outils sont utilisés correctement.

Les villes comme Berkeley, Oakland et Boston ont adopté une ordonnance similaire qui fait obligation aux agences municipales ou aux forces de l'ordre d’obtenir l’approbation du Conseil des superviseurs avant d’adopter de nouvelles technologies de surveillance ainsi que des nouvelles politiques d'utilisation des technologies existantes. Toutefois, la nouvelle proposition va plus loin en interdisant totalement la technologie de reconnaissance faciale. Si le projet de San Francisco est approuvé, il empêcherait les services de la ville d'acheter ou d'utiliser la technologie de reconnaissance faciale. Le projet de loi, qui s'appliquerait également à l'application de la loi, représenterait une nouvelle étape dans la lutte contre les utilisations abusives de cet outil puissant et créerait un précédent aux Etats-Unis.

Cette proposition intervient dans un conteste où les groupes de défense des droits civils aux Etats-Unis ont soulevé des préoccupations au sujet de la menace à la vie privée et à la sécurité que pose la reconnaissance faciale, ainsi que des nombreux problèmes de faux positifs.

En mai 2018, ACLU, une association à but non lucratif de défense des droits numériques, accompagnée par plus de deux douzaines d'autres organisations du même type, a demandé à Amazon de cesser de vendre son système de reconnaissance d'image à la police. Pour ces associations, « Amazon Rekognition est susceptible de connaître des abus entre les mains des gouvernements » ont-elles déclaré dans une lettre adressée à Jeff Bezos, le directeur général d'Amazon. « Ce produit constitue une grave menace pour les communautés, y compris les personnes de couleur et les immigrants, et pour la confiance et le respect qu'Amazon a travaillé à construire ».

Amazon avait alors expliqué, lorsqu’il mettait Rekognition, sa technologie de reconnaissance faciale, à la disposition des forces de l’ordre, que sa technologie permettrait de faciliter les enquêtes criminelles en reconnaissant des suspects dans des photos et des vidéos. Mais l’ACLU, qui n’était pas de cet avis, a conduit des tests, en juillet 2018, sur le système de reconnaissance faciale d'Amazon et il s’est avéré que Rekognition a identifié 28 membres du Congrès américain comme étant des criminels.

Ailleurs dans d’autres pays, les populations et les groupes de défense mènent la même lutte. Dans une de ses publications parues au mois de mai, The Independent a fait état de ce que l’intelligence artificielle utilisée par les forces de police anglaises a rapporté des faux positifs dans 98 % des cas, bien que les responsables de la police se soient défendus en soutenant que l’IA est assistée par les officiers de police. En Chine dans la province de Zhejiang, un système de surveillance routière d’intelligence artificielle a classé un célèbre CEO comme un piéton qui a grillé le feu rouge.

Les responsables du BART (un système de transport en commun desservant la région de la baie de San Francisco) ont fait l’objet de critiques au cours de l'été dernier lorsqu'ils ont commencé à explorer la mise en œuvre d'un système de surveillance, d’après Sfexaminer. En fin de compte, le conseil d'administration du BART a plutôt approuvé en septembre une ordonnance exigeant l'avis du public et l'approbation du conseil pour l'équipement et l’acquisition de technologie de surveillance impliquant l'utilisation de renseignements personnels identifiables.

« Nous savons que la technologie de reconnaissance faciale, qui a les préjugés des personnes qui l'ont mise au point, identifie de façon disproportionnée les personnes de couleur et les femmes », a déclaré M. Peskin mardi. « C'est un fait. »

« Notre intention est d'attirer l'attention des gens et d'avoir une conversation plus large sur le précipice moral de la technologie, après quoi vous êtes allé trop loin », a déclaré Lee Hepner, un adjoint législatif du superviseur Aaron Peskin. « C'est une atteinte à notre mode de vie, à notre démocratie et aux communautés marginalisées. Il y a aussi un intérêt marqué pour la reconnaissance faciale : ça fait peur aux gens. »

Selon le projet de loi de Peskin, les risques associés à l'utilisation de la technologie de reconnaissance faciale « l'emportent largement sur les avantages escomptés, et que la technologie exacerbera l'injustice raciale et menacera notre capacité de vivre sans surveillance gouvernementale continue ». Il a présenté son projet de loi, mardi dernier, en tant qu’une extension de la politique « Privacy First Policy », approuvée par les électeurs en novembre, qui fixe de nouvelles limites et exigences de transparence sur la collecte et l'utilisation des données personnelles par les agences municipales et par les entreprises faisant affaire avec la ville.

La prise de conscience sur les abus et erreurs de la technologie de reconnaissance faciale est en train de gagner le milieu des entreprises depuis un certains temps. En fin d’année dernière, Microsoft a appelé à une régulation mondiale de la reconnaissance faciale avant que la technologie ne devienne problématique au sein de la société, en faisant des suggestions sur la façon dont les problèmes posés actuellement par la technologie pourraient être résolus. En décembre dernier, Google a également renoncé temporairement à la vente de sa technologie de reconnaissance faciale afin de résoudre d'importantes questions de technologie et de politique avant.

Source : San Francisco Examiner, L’ordonnance

Et vous ?

Que pensez-vous de ce nouveau projet de loi ?
Pensez-vous que le projet a assez de chance d’aboutir à une loi afin d’empêcher le gouvernement d’utiliser la reconnaissance faciale dans la ville de San Francisco ?

Lire aussi

Google ne vendra pas la technologie de reconnaissance faciale pour l'instant, avant d'aborder d'importantes questions de technologie et de politique
Reconnaissance faciale : Microsoft appelle à une régulation mondiale, avant que cette technologie ne devienne problématique au sein de la société
La technologie de reconnaissance faciale d'Amazon identifie à tort 28 membres du Congrès US comme des criminels, quels dangers pour les Américains ?
USA : des associations s'érigent contre la technologie de reconnaissance faciale d'Amazon, craignant une surveillance de masse par la police
Londres : les tests d'une technologie de reconnaissance faciale ne mènent à aucune arrestation, en raison du nombre élevé de faux positifs

[Patrick Ruiz]

San Francisco devient la première ville US à interdire l’usage de la reconnaissance faciale
Pour des raisons en lien avec les droits de l'Homme

San Francisco est devenue, ce mardi, la première grande ville à interdire l'utilisation de la reconnaissance faciale par les agences gouvernementales locales. La ville se positionne ainsi en chef de file sur le terrain de la réglementation de la technologie critiquée pour son potentiel à étendre la surveillance gouvernementale et à renforcer les erreurs des forces de l'ordre.

L'ordonnance a fait l'objet d'un vote par le comité des superviseurs de la ville. Huit des 11 membres de ce conseil ont voté pour ; un a voté contre et deux des membres qui sont en sa faveur étaient absents. Le texte définit le cadre d'une interdiction de l'utilisation de la reconnaissance faciale (que des entreprises du secteur de la Tech. comme Amazon et Microsoft vendent actuellement à diverses agences gouvernementales américaines) par les agences gouvernementales de la ville de San Francisco. En effet, Amazon livre ces systèmes à la police américaine ; il en est de même pour Microsoft qui le fait pour une prison sur le sol américain.

Ci-dessous, le tweet de Brian Hofer – l’un des auteurs de l’ordonnance qui interdit aux agences gouvernementales de San Francisco d'utiliser la technologie de reconnaissance faciale.

Ces dernières années, la Chine fait beaucoup parler d’elle en ce qui concerne l’utilisation de ladite technologie. Dans ce pays, la fiction Big Brother de 1984 est désormais une quasi réalité avec des cas d’arrestations de fugitifs à l’aide de la reconnaissance faciale ou encore d’interdictions d’achats de billets de voyage dans le cadre d’un système de crédit social qui s’appuie sur ces systèmes de reconnaissance faciale. Aux États-Unis, ces outils sont beaucoup moins omniprésents, mais gagnent en popularité au sein des cercles des forces de l'ordre. Des douzaines de services de police locaux aux États-Unis utilisent la reconnaissance faciale pour établir des correspondances entre les photos de permis de conduire (et celles d'agressions) et les bases de données criminelles. Les particuliers s'en servent également pour surveiller les foules lors de manifestations ou dans les centres commerciaux afin d'identifier des suspects potentiels en temps réel. Toutefois, les défenseurs des libertés civiles tirent la sonnette d'alarme quant à ceci que l'usage de cette technologie peut avoir un effet dissuasif sur la liberté d'expression. Ce qu’il faut dire c’est que la Chine et les Etats-Unis ne sont pas des cas isolés.

Dès la fin de l’année 2017, la Russie a entamé des tests d’un système de reconnaissance faciale alimenté par un système d’intelligence artificielle pour traiter les données récoltées à travers les 170 000 caméras de surveillance installées dans la ville de Moscou. Selon Artem Ermolaev, responsable du département des technologies de l’information à Moscou, la manœuvre aurait permis l’arrestation de six criminels qui étaient sur la liste fédérale des personnes recherchées. En France, les autorités ont déjà annoncé leur intention de tirer profit des avantages qu’offrent ces nouvelles technologies ; une technologie de reconnaissance faciale pour le contrôle automatisé des passeports est en principe en service depuis le mois de juillet de l’année précédente au niveau des aéroports Roissy-Charles-de-Gaulle et Orly.

L'interdiction n'est qu'une partie de cette ordonnance. Le texte exige également que les agences municipales obtiennent l'approbation de la ville avant de faire l'acquisition d'autres types de technologies de surveillance comme les lecteurs automatiques de plaques d'immatriculation et les drones avec caméras. Noter cependant que les particuliers et les entreprises peuvent continuer à faire usage de ces systèmes de reconnaissance faciale.

Lorsqu’on parle de reconnaissance faciale, deux factions s’opposent. Les partisans de cette technologie affirment qu'elle a la capacité d'aider les policiers à gagner en efficacité pour identifier et arrêter des suspects, mais les critiques pointent du doigt des exemples de mauvais usages qui, selon eux, prouvent qu'elle peut faire plus de mal que de bien. À ce propos, la plus grosse illustration est celle d’un test que l’Union américaine des libertés civiles (ACLU) a mené sur le système de reconnaissance faciale Amazon Rekognition. Il en est ressorti que le système identifiait à tort 28 membres de couleur de peau noire comme des criminels. Les retours de chercheurs du MIT avaient mis en lumière le fait que le logiciel donne de très mauvais résultats dans les cas d’identification des femmes et des personnes de couleur de peau noire. Dans chacun des cas, Amazon avait contesté les résultats. Des publications additionnelles ont aussi fait état de ce que les services de police se sont appuyés sur ladite technologie pour cibler les communautés noires et les activistes.

« La propension de la technologie de reconnaissance faciale à mettre en danger les droits et les libertés civiles l'emporte largement sur ses prétendus avantages. et cette technologie risque d'exacerber l'injustice raciale et menace notre capacité de vivre à l'abri d'une surveillance gouvernementales continue », lit-on au sein de l’ordonnance.

La région de la baie de San Francisco abrite un solide réseau de groupes de défense des libertés civiles et de justice raciale. Il n'est donc pas surprenant que les gouvernements municipaux soient à la pointe de la réglementation en matière de technologie qui pourrait empiéter sur la vie privée et renforcer les inégalités sociales. D'autres villes s'apprêtent à suivre son exemple. À Oakland, le conseil municipal est prêt à voter un projet de loi pour la mise en œuvre d'une interdiction similaire.

L'ordonnance d'interdiction de la reconnaissance faciale limitera les actions du service de police de San Francisco, qui n'utilise pas actuellement la technologie de reconnaissance faciale, mais l'a déjà testée par le passé. Certes, l'adoption définitive de l'ordonnance est soumise à un dernier vote la semaine prochaine, mais au vu des derniers résultats, il semble que la messe soit dite. Sous le nouveau cadre juridique, la police de San Francisco ne sera pas en mesure de relancer les tests de ces outils. Cela signifie qu'elle ne pourra pas, par exemple, connecter des caméras de sécurité installées dans les rues publiques à la technologie de traitement d'images et aux bases de données des photos de potentiels criminels.Toutefois, les restrictions sur la technologie de reconnaissance faciale ne s'appliqueront pas à l'aéroport international de San Francisco. Ainsi, certains organismes fédéraux seront libres d'utiliser à leur guise les systèmes de reconnaissance faciale et les scanners biométriques.

Sources : Reuters, ordonnance

Et vous ?

Qu’en pensez-vous ?

Faut-il bannir la reconnaissance faciale au motif de la protection de la vie privée ou faut il l'encourager au motif d'aider les forces de l'ordre à maintenir la sécurité ?

Voir aussi :

Les caméras de reconnaissance faciale : outils de sécurité ou d'espionnage de masse ? La Chine et d'autres pays adoptent de plus en plus ces outils

Des responsables d'un aéroport déploient une technologie de reconnaissance faciale pour améliorer la sécurité et réduire les temps d'embarquement

UK : la technologie de reconnaissance faciale de la police aurait permis d'arrêter un suspect, grâce à l'amélioration du logiciel et de son algorithme