Des chercheurs disent avoir découvert une énorme ferme de bots Facebook dans le cadre des élections US de 2020,
Diffusant des messages sur Trump, Biden et le covid

Après l’élection américaine 2016, les réseaux sociaux ont essuyé de nombreux critiques pour leur incapacité à contrôler la qualité de l’information qui circule sur leur plateforme. Depuis lors, des pays, qui ont des scrutins importants à venir, craignent que des campagnes de désinformation et de propagation de discours haineux sur Internet et les réseaux sociaux puissent avoir un impact sur le résultat des élections. Un groupe de chercheurs en sécurité affirme avoir démasqué une ferme massive de bots qui visait à façonner l'opinion publique sur Facebook dans le feu de l'élection présidentielle américaine de 2020.

Le réseau de bots comprend 13 775 comptes Facebook uniques qui publiaient chacun environ 15 fois par mois, pour une production de plus de 50 000 publications par semaine, a déclaré l’entreprise britannique de cybersécurité Comparitech dans un billet de blog publié lundi. Selon les chercheurs de la société, les comptes semblent avoir été utilisés à des fins de « manipulation politique », la moitié environ des messages étant liés à des sujets politiques et 17 % au covid-19.

Nom : f01.png
Affichages : 3313
Taille : 47,1 Ko

Chaque compte dispose d'une photo de profil et d'une liste d'amis – probablement composée d'autres bots, suggèrent les chercheurs. Ces faux comptes ont rejoint « des groupes Facebook spécifiques où leurs messages ont plus de chances d'être vus et discutés par des utilisateurs légitimes » de Facebook.

Du point de vue de Facebook, les robots peuvent être impossibles à distinguer des utilisateurs légitimes, d’après Paul Bischoff de Comparitech. Ces programmes automatisés peuvent être utilisés pour recueillir des informations personnelles sur les utilisateurs sans leur consentement, créer des campagnes d'influence, promouvoir secrètement des programmes, diffuser de la désinformation et rendre les escroqueries plus convaincantes. Si les systèmes automatisés peuvent détecter les activités les plus flagrantes des bots, les bots les plus sophistiqués peuvent imiter la saisie humaine avec une telle précision que Facebook a du mal à faire la différence.

« Les bots peuvent être utilisés pour augmenter artificiellement le nombre d'abonnés ou de followers. La ferme de robots que nous avons examinée inscrivait des comptes à certains groupes. Pour les utilisateurs réels, une page ou un groupe comptant 1 000 membres semble plus légitime qu'une page comptant une dizaine de membres. Cela peut être utilisé pour attirer des victimes pour une sorte d'escroquerie », lit-on dans le billet de Comparitech.

Les chercheurs ont constaté que le mot clé le plus utilisé dans les publications était "Trump", suivi de "Biden". Les comptes remontent au moins jusqu'en octobre 2020. En plus des posts discutant d'événements spécifiques aux élections présidentielles américaines de 2020, ils étaient également actifs autour des incendies de forêt en Californie, des manifestations en Biélorussie et des questions frontalières américaines, a rapporté le billet.

Les chercheurs ont pu déterminer que les faux comptes ont été créés et contrôlés à l'aide de Selenium, un logiciel conçu pour automatiser les tests d'applications Web, mais qui peut également être utilisé pour imiter le comportement humain d'une manière qui pourrait être difficile à repérer par les logiciels de détection automatique des bots.

Selon un porte-parole de la société de cybersécurité à l’origine des découvertes, Facebook n'a pas répondu à Bob Diachenko, un expert indépendant en cybersécurité qui a aidé à diriger la recherche, lorsqu'il a tenté de porter les conclusions des équipes à l'attention de la plateforme. Un représentant de Facebook a déclaré que l'entreprise examinerait un échantillon des comptes identifiés par Comparitech, mais a refusé tout autre commentaire.

Nom : f02.jpg
Affichages : 2740
Taille : 118,1 Ko

Facebook lutte contre les bots depuis plusieurs années

Facebook est devenu beaucoup plus actif et agressif dans l'identification publique et le retrait de ce qu'il appelle un « comportement inauthentique coordonné » opérant sur la plateforme depuis l'opération d'ingérence électorale russe de 2016. Une telle activité inauthentique, que l'entreprise définit comme lorsque des affiches cherchent « à tromper les gens sur qui ils sont et ce qu'ils font en s'appuyant sur de faux comptes », peut inclure des efforts soutenus par les gouvernements ou les privés.

Alors qu’il était sous le feu des critiques après les élections américaines de 2016, Facebook a annoncé en avril 2017 avoir déployé de nouvelles mesures pour détecter les faux comptes de manière plus efficace afin d’assurer l’intégrité de la plateforme.

« Garantir l’authenticité de l’information au sein de notre plateforme est un challenge constant », avait dit à l’époque Shabnam Shaik, responsable technique chez Facebook, dans un billet de blog. « Nous étions déjà capables d’empêcher des bots de créer des comptes fictifs ou de bloquer des activités suspectes grâce à nos systèmes de sécurité qui tournent en arrière-plan. Nous avons fait des progrès supplémentaires et allons vous les expliquer aujourd’hui ».

« Désormais, nous sommes capables de détecter de faux comptes de façon plus efficace. Nous n’évaluons plus le contenu lui-même, mais nous basons sur des modèles comportementaux pour détecter plus facilement ces faux comptes. Par exemple, nos systèmes peuvent détecter le partage répété du même contenu, ou encore une augmentation des messages envoyés ».

« En France par exemple, ces améliorations nous ont permis de supprimer 30 000 faux comptes », a ajouté Shabnam Shaik. Facebook espérait ainsi réduire la désinformation et la propagation de spams grâce à ces nouvelles techniques, en phase avec les nouvelles relatives aux craintes que son réseau social suscitait.

Au cours d’une audition des responsables des géants technologiques américains des réseaux sociaux et d’Internet en 2018, Facebook et Twitter ont défendu les initiatives engagées par leur groupe respectif afin de limiter les risques liés à la survenue d’éventuelles nouvelles ingérences étrangères dans le processus électoral américain, sachant qu’ils n’avaient pas été suffisamment prompts à réagir après l'ingérence attribuée à la Russie, lors de la campagne électorale américaine de 2016. Les plaidoyers des représentants des deux entreprises n’avaient cependant pas réussi à satisfaire les attentes des élus américains.

Facebook a continué au fil des années à peaufiner son système de détection de bots, et le mois dernier encore, l'entreprise a affirmé avoir supprimé 1 565 comptes Facebook suspects, ainsi que 141 comptes Instagram, 724 pages et 63 groupes. Malgré ses efforts, des bots sont toujours en activité sur la plateforme du géant des réseaux sociaux, visant encore les élections et les sujets d’actualité les plus importants comme le covid-19. Selon Bischoff, en raison de son incapacité à arrêter les bots sur sa plateforme, il semble que Facebook tente plutôt de normaliser l'idée que les bots font partie de la vie sur Internet. Les bots ne seront pas arrêtés de sitôt, dit-il.

Les chercheurs qui ont découvert les bots ont pu voir les adresses électroniques qui ont prétendument enregistré ces faux comptes Facebook. Si beaucoup d'entre elles utilisaient des comptes "mail[.]ru" apparemment originaires de Russie, les chercheurs n'ont pas indiqué qui était derrière la ferme de bots ou qui contrôlait le serveur non sécurisé.

En 2018, un rapport du Computational Propaganda Project de l’Université d’Oxford et Graphika, une entreprise d’analyse de réseaux sociaux, avait révélé que la Russie aurait utilisé toutes les grandes plateformes de médias sociaux pour diffuser des mots, des images et des vidéos dans le but d'influencer les électeurs pour favoriser l'élection du président Donald Trump et le soutenir dans l'exercice de ses fonctions.

Source : Comparitech

Et vous ?

Quels commentaires faites-vous de la découverte de milliers de faux comptes qui continuent d’exister sur Facebook malgré les efforts de l’entreprise pour identifier et de retirer ces comptes ?
Selon vous, Facebook peut-il arrêter définitivement les bots sur sa plateforme ?

Voir aussi :

La Russie aurait utilisé tous les principaux outils de médias sociaux pour favoriser l'élection de Donald Trump, selon un rapport
Facebook va vérifier et limiter la diffusion des infox se rapportant au processus de vote, pour protéger les élections US des ingérences électorales
Facebook améliore ses techniques de détection de faux comptes, qui lui permettent d'en supprimer 30 000 en France
Twitter bloque 5000 bots pro-Trump qui retweetent des invectives contre le rapport Mueller, et Donald Trump s'inquiète de la perte de ses abonnés