2 pièce(s) jointe(s)
Griezmann rompt son partenariat avec Huawei qui fournit du matériel pour une IA de tracking des ouighours
Huawei a testé un logiciel d'IA qui pourrait reconnaître les minorités ouïghoures et alerter la police,
Le système de reconnaissance faciale appartient à Megvii, une autre société chinoise
Huawei, en collaboration avec Megvii, l'une des plus grandes sociétés chinoises d'intelligence artificielle (IA), a testé un système de reconnaissance faciale qui pourrait être utilisé pour détecter les membres d'un groupe minoritaire musulman et envoyer des alertes aux autorités, affirme un nouveau rapport. La minorité ethnique des Ouïghours est un groupe musulman réprimé, souvent visé par le gouvernement chinois, qui vit principalement dans la région occidentale du Xinjiang.
Un document officiel de 2018 produit par les deux entreprises chinoises montre que Huawei a testé le logiciel de Megvii sur son infrastructure de Cloud vidéo. Le document a été découvert par IPVM, une société de recherche américaine spécialisée dans l'analyse de la vidéosurveillance. L'IPVM a fait part de sa découverte au Washington Post, qui a été le premier média à rendre compte de son contenu mardi.
Le test a été effectué pour voir si le matériel de Huawei est compatible avec le logiciel de reconnaissance faciale de Megvii, indique le rapport de l'IPVM. Huawei a fourni le matériel tel que les caméras, les serveurs et l'infrastructure de Cloud Computing, tandis que Megvii a fourni le logiciel, a-t-il ajouté. Dans le cadre de l'essai, une fonctionnalité appelée "alarme ouïghour" a été testée. Une autre caractéristique du logiciel a permis de déterminer l'« ethnicité » dans le cadre de son « analyse des attributs du visage », selon le rapport de l'IPVM.
En 2018, un rapport des Nations unies a fait état de préoccupations concernant le fait que plus d'un million de personnes étaient détenues dans « des centres dits de lutte contre l'extrémisme et que deux autres millions avaient été forcés de se rendre dans des "camps de rééducation" pour un endoctrinement politique et culturel » au Xinjiang. En juin de cette année, l'ONU a de nouveau fait part de ses préoccupations concernant « la répression collective de la population, en particulier des minorités religieuses et ethniques, au Xinjiang et au Tibet ».
Huawei et Megvii sont deux des pionniers technologiques les plus importants de Chine, et les autorités chinoises les ont considérés comme les leaders d'une campagne nationale visant à atteindre la pointe du développement de l'IA, selon le Washington Post. Mais ces entreprises multimilliardaires ont également subi les contrecoups des autorités américaines, qui affirment qu'elles représentent une menace pour la sécurité des États-Unis ou qu'elles ont contribué au régime brutal d'oppression ethnique de la Chine.
Huit entreprises chinoises, dont Megvii, ont été frappées de sanctions par le ministère américain du Commerce l'année dernière pour leur implication dans « des violations des droits de l'homme et des abus dans la mise en œuvre de la campagne de répression, de détention arbitraire massive et de surveillance par la haute technologie de la Chine » contre les Ouïghours et d'autres groupes minoritaires musulmans.
Le gouvernement américain a également pris des sanctions contre Huawei et les entreprises alliées, en interdisant l'exportation de technologies américaines vers cette entreprise et en faisant pression sur d'autres pays pour qu'ils excluent ses systèmes de leurs réseaux de télécommunications. Huawei, un mastodonte du matériel et des services utilisés dans plus de 170 pays, a dépassé Apple pour devenir le deuxième fabricant mondial de smartphones et s'efforce de mener le déploiement international de nouveaux réseaux mobiles 5G qui pourraient remodeler l'Internet.
Selon le rapport, Huawei et Megvii ont annoncé trois systèmes de surveillance utilisant la technologie des deux entreprises au cours des deux dernières années. Le Washington Post n'a pas pu confirmer immédiatement si le système avec "alarme ouïghour" testé en 2018 était l'un des trois actuellement en vente.
« Alarme ouïghour » générée par l'IA de Megvii et envoyée dans le système de Huawei à l’intention des contrôleurs chinois
Selon l'IPVM, une fonction telle que l'« alarme ouïghour » pourrait être utilisée pour signaler un membre du groupe minoritaire aux autorités. « Des systèmes comme Megvii sont intégrés au système de Huawei de sorte que les informations et les alarmes sont générées par Megvii puis envoyées dans le système de Huawei afin que les contrôleurs (par exemple, la police) puissent les examiner et y répondre », a déclaré John Honovich, président de l'IPVM, dans une communication par courrier électronique, alors qu'il expliquait la fonctionnalité potentielle de la fonction « alarme ouïghour ».
C'est un autre outil dans l'arsenal des autorités chinoises, qui ont utilisé la technologie pour sévir contre le groupe minoritaire musulman. L'année dernière, le New York Times a rapporté que la reconnaissance faciale était utilisée pour suivre les Ouïghours et garder un œil sur leurs déplacements.
L'IPVM a trouvé le document de Huawei et Megvii, qui était marqué "confidentiel", grâce à une recherche sur Google, d’après le Washington Post. Il a été téléchargé sur le site Web de Huawei, mais a depuis été supprimé.
« La collaboration de Huawei et Megvii sur l’alarme ouïghour prouve une fois de plus que de nombreuses grandes sociétés chinoises de vidéosurveillance/reconnaissance faciale sont profondément impliquées dans la répression des Ouïghours. Quiconque fait des affaires avec ces entreprises devrait en prendre note », conclut le rapport de l'IPVM, rédigé par Honovich. « Ce n'est pas une entreprise isolée. C'est systématique », a déclaré Honovich. Beaucoup de réflexion a été faite pour s'assurer que cette alarme ouïghour fonctionne ».
Ni Huawei ni Megvii n'ont nié la véracité du document découvert par l'IPVM, selon le journal.
« Ce rapport est simplement un test et il n'a pas été appliqué dans le monde réel », a déclaré un porte-parole de Huawei. « Huawei ne fournit que des produits d'usage général pour ce genre de test. Nous ne fournissons pas d'algorithmes ou d'applications personnalisés ». « Huawei opère en conformité avec les lois et règlements de tous les pays et régions où nous opérons », poursuit la déclaration, « et ne fournit que des produits et solutions TIC qui répondent aux normes industrielles reconnues ».
Megvii a déclaré que ses « solutions ne sont pas conçues ou personnalisées pour cibler ou étiqueter les groupes ethniques ». « Notre activité est axée sur le bien-être et la sécurité des individus, et non sur la surveillance de groupes démographiques particuliers », a déclaré un porte-parole de Megvii.
Les chercheurs en IA affirment, selon le Washington Post, qu’une telle IA pourrait contribuer à la discrimination, au profilage ou à la punition. Ils affirment également que le système ne manquera pas de produire des résultats inexacts, car ses performances varieraient considérablement en fonction de l'éclairage, de la qualité de l'image et d'autres facteurs - et parce que la diversité des ethnies et des origines des personnes n'est pas aussi clairement décomposée en simples groupes.
« Nous restons sceptiques quant à la précision de la reconnaissance ethnique, qu'elle soit ouïghour ou autre, même dans des conditions parfaites, les conditions réelles des caméras de surveillance (mauvais angles, mauvais éclairage, distances éloignées, etc.) exacerbant cela », a déclaré Honovich.
La technologie américaine utilisée dans l’IA, selon le rapport d'IPVM
Selon l'IPVM, le document confidentiel montre que le géant américain des semi-conducteurs Nvidia a contribué à alimenter le système de surveillance commun à Megvii et Huawei avec sa puce GPU Tesla P4. Toutefois, le rapport note qu'il n'est pas clair si Nvidia savait à quoi servaient ses puces. Nvidia n'a pas répondu à une demande de commentaires que lui a adressée CNBC.
Dans un récent rapport, le New York Times a rapporté que des puces d'Intel et de Nvidia étaient utilisées pour alimenter des ordinateurs capables de traiter et de regarder des images de surveillance et qui faisaient partie de la surveillance chinoise des Ouïghours au Xinjiang.
Mardi, le sénateur américain Marco Rubio et le représentant américain Jim McGove ont envoyé des lettres aux PDG d'Intel et de Nvidia en réponse à l'article du New York Times, a rapporté CNBC. Ils ont demandé aux entreprises si elles savaient comment leur technologie était utilisée et si elles prenaient des mesures pour s'assurer que leurs puces n'étaient « pas utilisées pour des violations des droits de l'homme ou pour compromettre la sécurité nationale des États-Unis ».
Clare Garvie, associée principale au Georgetown Law's Center on Privacy and Technology qui a étudié les logiciels de reconnaissance faciale, a déclaré que le logiciel d’ « alarme ouïghour » représente une étape dangereuse vers l'automatisation de la discrimination ethnique à une échelle dévastatrice.
« Il y a certains outils qui n'ont tout simplement pas d'application positive et beaucoup d'applications négatives, et un outil de classification ethnique est l'un d'entre eux », a déclaré Garvie. « Nommez une norme des droits de l'homme, et ceci est probablement une violation de celle-ci ».
Les chercheurs en IA craignent que les logiciels de détection d'ethnicité puissent un jour prendre leur envol en dehors des frontières d'un État de surveillance. La police et les autorités fédérales des États-Unis ont montré un intérêt croissant pour les logiciels de reconnaissance faciale en tant qu'outil d'investigation, mais ces systèmes ont suscité une vive réaction du public quant à leurs éventuels biais et inexactitudes, et certaines villes et forces de police ont choisi d'interdire purement et simplement cette technologie. Ces technologies pourraient toutefois trouver un marché parmi les régimes internationaux, quelque part dans l'équilibre entre l'influence chinoise et américaine.
Source : IPVM
Et vous ?
:fleche: Que pensez-vous de l’IA d’ « alarme ouïghour » de Huawei- Megvii ?
:fleche: Quel commentaire faites-vous d’une telle technologie entre les mains des autorités chinoises ?
:fleche: Que se passera-t-il pour Huawei – qui a du mal à vendre sa technologie à cause des interdictions américaines – après un tel rapport ?
:fleche: Pensez-vous que l’utilisation d’une IA de classification ethnique pourrait s’étendre au monde occidental ?
Voir aussi :
:fleche: La police chinoise utilise une caméra basée sur l'IA et des analyses raciales pour suivre les Ouïghours, et les distinguer de la majorité Han
:fleche: Le coronavirus fait sortir de l'ombre l'état de surveillance de la Chine, les sociétés d'IA se targuant de pouvoir identifier dans la rue des personnes ayant même une faible fièvre, selon un rapport
:fleche: La Chine oblige les touristes à installer des logiciels espions à sa frontière, recherchant plus de 73 000 fichiers différents dans les téléphones
:fleche: Une fuite de données révèle que la Chine suit près de 2,6 millions de personnes dans Xinjiang, avec 6,7 millions de données GPS collectées en 24h
1 pièce(s) jointe(s)
Griezmann rompt son partenariat avec Huawei qui fournit du matériel pour une IA de tracking des Ouighours
Griezmann rompt son partenariat avec Huawei en soutien aux Ouïghours traqués par une intelligence artificielle
Qui tourne sur du matériel fourni par le géant chinois de la technologie
Megvii, l’une des plus grandes sociétés chinoises d’intelligence artificielle, met sur pied des logiciels pour traquer les minorités ouïghoures de la région occidentale du Xinjiang en Chine. Huawei lui fournit le matériel nécessaire (caméras, serveurs et infrastructure de Cloud Computing) pour peaufiner l’IA. Les développements datent, mais prennent un coup de neuf avec une sortie d’Antoine Griezmann – le joueur français du FC Barcelone – qui prend position pour les Ouïghours en mettant un terme à son partenariat avec Huawei.
C’est une prise de position politique qui n’est pas sans rappeler celles de l’auteur de l’éditeur de texte Notepad++ à propos du traitement réservé par la Chine à la minorité ouïghoure musulmane sur son sol et aux populations de Hong Kong.
Dans le cadre de la sortie de la version 7.8.1 il touche à cette situation par rapport à laquelle Antoine Griezmann se positionne : « Les droits de l'homme en Chine sont toujours un sujet très controversé. Depuis 2017, de nombreuses informations font état de détentions extrajudiciaires dans des "camps de rééducation", d'endoctrinement politique et parfois même de tortures de la population ouïghoure. Selon les estimations de 2018, le nombre de détenus s'élèverait à des centaines de milliers.
Les Ouïghours ne sont pas d'origine ethnique chinoise, mais vivent dans la région dite autonome du Xinjiang en Chine. Le nom de la région suggère que les Ouïghours jouissent de l'autonomie. Mais tout comme le Tibet, le Xinjiang est une région de Chine étroitement contrôlée. Après le récent conflit du Xinjiang, Pékin a transformé le groupe ethnique ouïghour en un collectif terroriste. Cela a permis à Pékin de justifier sa transformation du Xinjiang en un État sous surveillance. L'islamophobie a également connu une hausse marquée dans toute la Chine.
Au moins 120 000 membres de la minorité ouïghoure musulmane de Kashgar ont été détenus dans les camps de rééducation du Xinjiang qui visent à changer la pensée politique des détenus, leur identité et leurs convictions religieuses. Les rapports du Congrès mondial ouïghour soumis aux Nations Unies en juillet 2018 indiquent qu'un million d’Ouïghours sont actuellement détenus dans les camps de rééducation.
Le fait que de telles informations vous parviennent est déjà une action en soi. Vous pouvez à votre tour faire participer plus de personnes pour qu'ils se concentrent sur cette question et, espérons-le, exercent des pressions supplémentaires sur le gouvernement chinois pour qu'il mette fin à ses actions oppressives et à ses crimes contre le peuple ouïghour.
Le fait que vous venez d'apprendre de telles informations est déjà une action en soi. Mais vous pouvez faire participer plus de gens pour qu'ils se concentrent sur cette question et, espérons-le, exercer des pressions supplémentaires sur le gouvernement chinois pour qu'il mette fin à ses actions oppressives et à ses crimes contre le peuple ouïghour. »
Dans le cadre de ce qui apparaît comme une interpellation pour tous les Hommes il ajoute : « Les gens me diront encore une fois de ne pas mélanger la politique avec le logiciel/les affaires. Adopter un tel positionnement a certainement un impact sur la popularité de Notepad++ même s'il faut noter que parler de politique est exactement ce que les entreprises dans cette filière essaient généralement d'éviter. Le problème, c'est que si nous ne nous occupons pas de politique, la politique s'occupera de nous. Nous pouvons choisir de ne pas agir quand les gens sont opprimés, mais quand arrivera notre tour, il sera trop tard et il n'y aura peut-être personne pour prendre position pour nous. Il n'est pas nécessaire d'être ouïghour ou musulman pour agir, il suffit d'être humain et d'avoir de l'empathie pour nos semblables. D'où la sortie de la présente version de Notepad++ avec pour nom de baptême Free Uyghur. »
La question centrale revient une fois de plus : doit-on mêler développement de logiciels et prises de position politique ? Le partenariat entre Huawei et Megvii est un indicateur (supplémentaire) de ce que la technologie peut servir à accomplir des desseins politiques. Elle devrait donc aussi pouvoir servir de moyen d’expression aux voies qui s’élèvent pour attirer l’attention sur des dérives issues de l’espace politique et qui mettent à mal l’Humanité.
Source : Instagram
Et vous ?
:fleche: Qu’en pensez-vous ?
Voir aussi :
:fleche: La police chinoise utilise une caméra basée sur l'IA et des analyses raciales pour suivre les Ouïghours, et les distinguer de la majorité Han
:fleche: Le coronavirus fait sortir de l'ombre l'état de surveillance de la Chine, les sociétés d'IA se targuant de pouvoir identifier dans la rue des personnes ayant même une faible fièvre, selon un rapport
:fleche: La Chine oblige les touristes à installer des logiciels espions à sa frontière, recherchant plus de 73 000 fichiers différents dans les téléphones
:fleche: Une fuite de données révèle que la Chine suit près de 2,6 millions de personnes dans Xinjiang, avec 6,7 millions de données GPS collectées en 24h