De plus en plus de pays imitent l'exemple chinois en déployant des IA pour pister les citoyens
De plus en plus de pays imitent l'exemple chinois en déployant des IA pour pister les citoyens,
selon un rapport
La technologie d'intelligence artificielle était autrefois reléguée au monde de la science-fiction, mais elle nous entoure aujourd'hui. Elle alimente nos smartphones, détermine nos préférences en matière de musique et guide nos flux de médias sociaux. L'aspect le plus notable de l'IA est peut-être sa soudaine ubiquité.
En termes généraux, l'objectif de l'intelligence artificielle est de « rendre les machines intelligentes » en automatisant ou en reproduisant un comportement qui « permet à une entité de fonctionner correctement et avec prévoyance dans son environnement », selon l'informaticien Nils Nilsson. L'intelligence artificielle n'est pas une technologie spécifique. Au lieu de cela, il est plus juste de penser à l'intelligence artificielle comme à un système intégré incorporant des objectifs d'acquisition d'informations, des principes de raisonnement logique et des capacités d'autocorrection.
Sans surprise, l'impact de l'IA va bien au-delà des choix des consommateurs. Cette technologie commence à transformer les modèles de gouvernance de base, non seulement en fournissant aux gouvernements des capacités sans précédent pour contrôler leurs citoyens et leurs choix, mais également en leur donnant une nouvelle capacité à perturber les élections, à élever de fausses informations et à délégitimer le discours démocratique transfrontalier.
Un nombre croissant de pays suivent la Chine en déployant l'intelligence artificielle pour suivre les citoyens, selon un rapport d'un groupe de recherche publié mardi. Selon la Fondation Carnegie pour la paix internationale (une organisation non gouvernementale ainsi qu'un cercle de réflexion et d'influence global dédiée au développement de la coopération interétatique et à la promotion des intérêts des États-Unis sur la scène internationale), au moins 75 pays utilisent activement des outils d'IA tels que la reconnaissance faciale pour la surveillance. L'indice des pays où une forme de surveillance de l'IA est utilisée inclut les démocraties libérales telles que les États-Unis et la France, ainsi que des régimes plus autocratiques.
« La technologie de l'intelligence artificielle (IA) prolifère rapidement dans le monde entier. Des développements surprenants continuent d’émerger, du début des vidéos deepfake qui brouillent la frontière entre vérité et mensonge, aux algorithmes avancés qui peuvent battre les meilleurs joueurs du monde. Les entreprises exploitent les capacités de l'intelligence artificielle pour améliorer le traitement analytique. Les responsables municipaux font appel à l'IA pour surveiller les embouteillages et surveiller les compteurs d'énergie intelligents. Pourtant, un nombre croissant d'États déploient des outils avancés de surveillance s'appuyant sur l'IA pour contrôler, surveiller et pister les citoyens afin de réaliser divers objectifs politiques (dont certains sont légaux, d'autres violent les droits de l'homme et beaucoup d'entre eux se situant dans un terrain glissant).
« Afin de traiter de manière appropriée les effets de cette technologie, il est important de comprendre d’abord où ces outils sont déployés et comment ils sont utilisés. Malheureusement, ces informations sont rares. Pour plus de clarté, le présent document présente un indice AI Global Surveillance (AIGS), qui constitue l'un des premiers efforts de recherche de ce type. L'indice compile des données empiriques sur l'utilisation de la surveillance se basant sur l'IA pour 176 pays dans le monde. Il ne fait pas la distinction entre les utilisations légitimes et illégales de la surveillance par une IA. Le but de la recherche est plutôt de montrer comment les nouvelles capacités de surveillance transforment la capacité des gouvernements à surveiller et suivre les individus ou les systèmes. Il demande spécifiquement:
- Quels pays adoptent la technologie de surveillance par une IA?
- Quels types spécifiques de surveillance par une IA les gouvernements déploient-ils?
- Quels pays et entreprises fournissent cette technologie ?
S'appuyant sur une enquête sur les archives publiques et les médias, le rapport indique que les entreprises de technologie chinoises dirigées par Huawei et Hikvision fournissent une grande partie de la technologie de surveillance par une IA aux pays du monde entier. D’autres sociétés telles que IBM, Palantir et Cisco au Japon, basées sur NEC et aux États-Unis, sont également d’importants fournisseurs internationaux d’outils de surveillance par une IA.
Ville intelligente
Une ville intelligente est une zone urbaine qui utilise différents capteurs de collecte de données électroniques pour fournir des informations permettant de gérer efficacement les ressources et les actifs. Cela comprend les données collectées auprès des citoyens, des dispositifs mécaniques, des actifs, traitées et analysées pour surveiller et gérer les systèmes de circulation et de transport, les centrales électriques, les réseaux d'approvisionnement en eau, la gestion des déchets, les systèmes d'information, les écoles, les bibliothèques et les hôpitaux.
Le concept de ville intelligente intègre les technologies de l'information et de la communication et divers dispositifs physiques connectés au réseau (l'Internet des objets) pour optimiser l'efficacité des opérations et des services urbains et se connecter aux citoyens.
La technologie des villes intelligentes permet aux représentants municipaux d'interagir directement avec les infrastructures communautaires et urbaines et de surveiller la ville et son évolution. Les technologies de l'information et de la communication sont utilisées pour améliorer la qualité, la performance et l'interactivité des services urbains, réduire les coûts et la consommation de ressources et accroître les contacts entre les citoyens et le gouvernement.
Les fonctions des villes intelligentes sont développées pour gérer les flux urbains et permettre des réponses en temps réel. Une ville intelligente est donc plus préparée à répondre aux défis qu’une ville qui entretient une relation seulement « transactionnelle » avec ses citoyens. Pourtant, le terme lui-même reste peu clair et est ouvert à de nombreuses interprétations.
Principales conclusions
- La technologie de surveillance par une IA se propage à un rythme plus rapide dans un plus grand nombre de pays que ce que les experts ont compris. Au moins soixante-quinze pays sur 176 dans le monde utilisent activement les technologies s'appuyant sur une IA à des fins de surveillance. Cela inclut : les plateformes de ville intelligente / ville sûre (56 pays), les systèmes de reconnaissance faciale (64 pays) et la police intelligente (52 pays).
- La Chine est l’un des principaux moteurs de la surveillance de l’IA dans le monde. Des technologies liées à des sociétés chinoises - en particulier Huawei, Hikvision, Dahua et ZTE - fournissent une technologie de surveillance par une IA dans soixante-trois pays, dont trente-six ont adhéré à la nouvelle route de la soie chinoise (un ensemble de liaisons maritimes et de voies ferroviaires entre la Chine et l'Europe passant par le Kazakhstan, la Russie, la Biélorussie, la Pologne, l'Allemagne, la France et le Royaume-Uni). Huawei seule est responsable de la fourniture d'une technologie de surveillance boostée à l'IA à au moins cinquante pays dans le monde. Aucune autre entreprise ne s'en approche. NEC Corporation (quatorze pays) est le deuxième plus grand fournisseur de technologies de surveillance de l’intelligence artificielle non chinois.
- Les produits chinois sont souvent accompagnés de prêts à taux réduit pour encourager les gouvernements à acheter leur matériel. Ces tactiques sont particulièrement pertinentes dans des pays comme le Kenya, le Laos, la Mongolie, l’Ouganda et l’Ouzbékistan, qui n’auraient pas pu avoir accès à cette technologie autrement. Cela soulève des questions troublantes quant à la mesure dans laquelle le gouvernement chinois subventionne l'achat de technologies répressives avancées.
- Mais la Chine n'est pas le seul pays fournissant des technologies de surveillance avancées dans le monde. Les entreprises américaines sont également actives dans ce domaine. La technologie de surveillance de l’IA fournie par les entreprises américaines est présente dans trente-deux pays. Les sociétés américaines les plus importantes sont IBM (onze pays), Palantir (neuf pays) et Cisco (six pays). D'autres sociétés basées dans des démocraties libérales - France, Allemagne, Israël, Japon - jouent également un rôle important dans la prolifération de cette technologie. Les démocraties ne prennent pas les mesures adéquates pour surveiller et contrôler la diffusion de technologies sophistiquées liées à diverses violations.
- Les démocraties libérales sont d'importants utilisateurs des outils de surveillance s'appuyant sur l'IA. L'indice montre que 51% des démocraties avancées utilisent des systèmes de surveillance s'appuyant sur l'IA. En revanche, 37% des États autocratiques fermés, 41% des États électoraux autocratiques / autocratiques compétitifs et 41% des démocraties électorales / démocraties non libérales utilisent une technologie de surveillance s'appuyant sur l'IA. Les gouvernements des démocraties complètes déploient toute une gamme de technologies de surveillance, des plateformes de ville sûre aux caméras de reconnaissance faciale. Cela ne signifie pas forcément que les démocraties abusent de ces systèmes. Selon l'auteur, le facteur le plus important pour déterminer si les gouvernements vont déployer cette technologie à des fins répressives est la qualité de leur gouvernance.
- Les gouvernements des pays autocratiques et semi-autocratiques sont plus enclins à abuser de la surveillance de l'IA que les gouvernements des démocraties libérales. Certains gouvernements autocratiques - la Chine, la Russie, l'Arabie saoudite, par exemple - exploitent la technologie de l'IA à des fins de surveillance de masse. D'autres gouvernements aux prises avec des problèmes de droits de l'homme exploitent la surveillance de l'IA de manière plus limitée pour renforcer la répression. Cependant, tous les contextes politiques risquent d'exploiter illégalement la technologie de surveillance de l'IA pour atteindre certains objectifs politiques.
- Il existe un lien étroit entre les dépenses militaires d’un pays et l’utilisation des systèmes de surveillance s'appuyant sur l’intelligence artificielle par un gouvernement : quarante des cinquante plus grands pays du monde en termes de dépenses militaires (sur la base des dépenses militaires cumulatives) utilisent également une technologie de surveillance boostée à l’IA.
- Le rapport « Freedom on the Net 2018 » a identifié 18 pays sur les 65 ayant accédé à une technologie de surveillance s'appuyant sur l'IA développée par des sociétés chinoises.
« J'espère que les citoyens poseront des questions plus difficiles sur l'utilisation de ce type de technologie et sur son impact », a déclaré l'auteur du rapport, Steven Feldstein, de Carnegie Endowment et professeur agrégé à la Boise State University.
Parmi les projets cités dans le rapport Feldstein, il existe des systèmes de « ville intelligente » dans lesquels un gouvernement municipal installe une série de capteurs, de caméras et d’autres appareils connectés à Internet pour collecter des informations et communiquer les uns avec les autres. Huawei est l'un des principaux fournisseurs de telles plateformes, qui peuvent être utilisées pour gérer le trafic ou économiser de l'énergie, mais qui sont de plus en plus utilisées pour la surveillance et la sécurité du public, a déclaré Feldstein.
Feldstein s'est dit surpris par le nombre de gouvernements démocratiques d'Europe et du monde entier qui s'empressent d'installer une surveillance s'appuyant sur l'IA, telle que la reconnaissance faciale, des contrôles automatisés aux frontières et des outils algorithmiques permettant de prédire quand des crimes pourraient se produire. L’indice montre qu’un peu plus de la moitié des démocraties avancées du monde utilisent des systèmes de surveillance qui s'appuient sur l’IA, aux niveaux national et local.
« Je pensais que ce serait plus centré sur les pays du Golfe ou les pays dans l'orbite chinoise », a déclaré Feldstein.
Source : Fondation Carnegie pour la paix internationale
Et vous ?
Cette prolifération de la surveillance des citoyens par une IA vous semble-t-elle surprenante ? Pourquoi ?
Voir aussi :
Répondre avec citation
Envoyé par marsupial
Keith Flint 1969 - 2019 
Partager