1 pièce(s) jointe(s)
Geneva : une IA capable de contourner la censure de l'Internet
Des chercheurs ont mis au point Geneva, une IA capable de contourner la censure de l'Internet,
en détectant les bogues et les lacunes dans le système de censure
La censure sur Internet est devenue une tactique très utilisée par plusieurs gouvernements dans le monde pour contrôler ce qui transite par leur cyberespace. Certains États utilisent la censure d’Internet comme un outil de répression. Mais les États qui censurent les contenus sur Internet pourraient bientôt être confrontés à une difficulté pour parvenir à leur fin. Récemment, des chercheurs de l'Université du Maryland ont prétendu avoir mis au point une intelligence artificielle capable de contourner ou de vaincre la censure Internet la plus puissante au monde.
Certains pays comme la Chine, l'Iran et la Russie sont connus pour censurer strictement ce que leurs citoyens peuvent voir sur Internet. Ces gouvernements le font pour contrôler leur peuple et protéger ceux qui sont au pouvoir. Il peut être très difficile, et souvent dangereux, d'essayer de contourner ce problème, mais un nouvel outil semble être le meilleur moyen de vaincre la censure dans ce genre de pays. L’outil, mis au point par des informaticiens de l’université du Maryland, pourrait se montrer très efficace dans la lutte contre la censure politique en général.
Les universitaires ont mis au point une IA capable d'élaborer des stratégies pour contourner les mécanismes de censure utilisés par les gouvernements. « Les chercheurs et les régimes de censure se livrent depuis longtemps à un jeu du chat et de la souris, ce qui conduit à des techniques de censure de plus en plus sophistiquées sur Internet et à des méthodes pour y échapper. Dans ce travail, nous nous sommes écartés du cycle d'évasion/détection précédemment manuel en développant des techniques pour automatiser la découverte des stratégies d'évasion de la censure », ont écrit les chercheurs.
Selon ces derniers, leur IA a été testée en conditions réelles et fonctionne bien. L’outil des chercheurs a été baptisé « Geneva », signifiant littéralement « Genetic Evasion ». En effet, leur intelligence artificielle est inspirée de la génétique humaine. L’IA Geneva est un algorithme génétique novateur qui, selon les chercheurs, fait évoluer les stratégies d'évasion de la censure par manipulation de paquets contre les censeurs au niveau de l'État-nation. Elle a été utilisée en Chine, en Inde et au Kazakhstan et a établi une douzaine de stratégies pour exploiter les failles de la censure.
À l'instar de la manière dont les systèmes biologiques composent de simples blocs de construction (A, T, C et G de l'ADN), Geneva génère de nouveaux algorithmes en composant des méthodes très simples de manipulation des paquets. Il peut copier, modifier, déposer ou fractionner des paquets. Genève compose ces actions individuelles en « arbres d'action ». Geneva crée plusieurs stratégies individuelles aléatoires et confronte chacune d'entre elles à de véritables censeurs. Selon leur succès (et d'autres facteurs), il attribue une aptitude numérique à chaque individu.
Les plus aptes survivent d’une génération à l’autre et Genève mute et mate des stratégies pour en créer de nouvelles. Selon les chercheurs, contrairement aux travaux antérieurs, les stratégies de contournement de la censure ne sont pas créées manuellement. Geneva les trouve automatiquement. Puis, après que Geneva ait trouvé comment échapper à la censure, l'on peut analyser ses résultats pour en savoir plus sur le fonctionnement de la censure. Cela a par exemple permis de savoir la façon dont le grand pare-feu de la Chine synchronise son état.
Autrement dit, les chercheurs ont indiqué que Geneva utilise une forme d'apprentissage automatique pour détecter automatiquement les bogues et les lacunes présents dans le système de censure d'un pays afin que l'utilisateur puisse voir le contenu non censuré. D’après eux, Geneva pourrait avoir aussi trouvé un bogue dans la censure chinoise. Selon Kevin Bock, doctorant en informatique à l'université du Maryland et coauteur de la recherche, ce type d'apprentissage automatique est basé sur l'évolution et inspirée de la biologie.
Geneva est, plus simplement, un algorithme qui essaie de battre d'autres algorithmes. Cependant, elle n’a pas encore été testée contre le système de censure russe. Selon les explications des chercheurs, la Russie a un modèle de censure quelque peu unique en son genre en ce sens que l'État ne contrôle pas directement l'Internet, mais plutôt que des fournisseurs privés de services Internet le censurent à leur place, de sorte qu'il peut être plus difficile de battre le système russe. Ils espèrent mettre à niveau Geneva et la confronter au système russe.
« Nous n'avons pas encore obtenu de points de vue en Russie pour sonder la censure de la même manière que nous l'avons fait dans d'autres pays », a déclaré Dave Levin, professeur adjoint d'informatique à l'université du Maryland et coauteur de la recherche. Geneva pourrait s'avérer être le meilleur outil contre la censure qui ait été mis au point depuis des années, mais l'un des problèmes que pose la création d'un tel outil est que les gouvernements pourraient tout simplement trouver un moyen d'empêcher les citoyens de l'obtenir un jour.
Cependant, Levin ne voit pas la chose ainsi. « Pour l'instant, étant donné qu'il s'agit d'un nouvel outil, je ne pense pas que ce soit vraiment sur les radars, pour l'instant, des régimes de censure », a-t-il déclaré. Selon Levin, les pays pourraient aussi essayer d'améliorer leurs systèmes de censure et de mettre au point des algorithmes capables de battre Geneva, mais Geneva pourrait être en mesure de les battre en tirant les leçons des nouveaux obstacles mis en place.
Source : Rapport de l’étude
Et vous ?
:fleche: Qu'en pensez-vous ?
Voir aussi
:fleche: Les Fournisseurs d'accès à Internet de Hong Kong refusent d'aider la Chine à censurer Internet, car « de telles restrictions marqueraient le début de la fin de l'Internet ouvert de Hong Kong »
:fleche: Il est de plus en plus difficile pour les VPN de contourner le Grand Firewall de Chine après une mise à jour, selon un test de Comparitech
:fleche: Le vice-président américain demande à Google de renoncer à Dragonfly, une version censurée de son moteur de recherche proposée à Pékin
