Des agents chinois sont soupçonnés d'utiliser des images générées par l'IA pour désinformer les américains
Des agents chinois sont soupçonnés d'utiliser des images générées par l'IA pour désinformer les électeurs américains, selon un rapport de Microsoft.
Des agents chinois présumés ont utilisé des images fabriquées par l'intelligence artificielle pour imiter les électeurs américains en ligne dans le but de diffuser de la désinformation et de provoquer des discussions sur des questions politiques controversées à l'approche des élections américaines de 2024, ont averti les analystes de Microsoft.
Au cours des neuf derniers mois, les agents ont publié sur les médias sociaux des images frappantes fabriquées par l'intelligence artificielle représentant la Statue de la Liberté et le mouvement Black Lives Matter, dans le cadre d'une campagne qui, selon Microsoft, se concentre sur le "dénigrement des figures et des symboles politiques américains."
Le présumé réseau d'influence chinois a utilisé une série de comptes sur des plateformes de médias sociaux "occidentales" pour télécharger les images générées par l'IA, selon Microsoft. Les images étaient fausses et générées par un ordinateur, mais des personnes réelles, volontairement ou non, les ont propagées en les publiant sur les médias sociaux, a déclaré Microsoft. Microsoft a déclaré que les comptes de médias sociaux étaient "affiliés" au Parti communiste chinois.
La possibilité croissante pour des adversaires d'utiliser l'IA pour semer la désinformation parmi les électeurs américains est une préoccupation majeure pour les responsables électoraux, qui se préparent à une éventuelle revanche controversée en 2024 entre le président Joe Biden et l'ancien président Donald Trump. Ils craignent que des agents étrangers n'amplifient un environnement d'information national déjà fragile. Selon un sondage réalisé par CNN en juillet, 69 % des républicains et des partisans du parti républicain estiment que la victoire de Joe Biden en 2020 n'était pas légitime.
"Nous pouvons nous attendre à ce que la Chine continue à perfectionner cette technologie au fil du temps et à améliorer sa précision, bien qu'il reste à voir comment et quand elle la déploiera à grande échelle", a écrit Clint Watts, directeur général du centre d'analyse des menaces numériques de Microsoft. Les images créées par l'IA ont "suscité un niveau d'engagement plus élevé de la part d'utilisateurs authentiques de médias sociaux" que certaines publications antérieures du réseau de comptes chinois présumés, a déclaré Microsoft, mais l'entreprise n'a pas fourni de mesures spécifiques.
La Chine et la Corée du Nord cherchent à atteindre de nouvelles cibles tout en améliorant leurs capacités cybernétiques
Au cours de l'année écoulée, la Chine a perfectionné une nouvelle capacité à générer automatiquement des images qu'elle peut utiliser pour des opérations d'influence visant à imiter les électeurs américains dans tout l'éventail politique et à créer une controverse selon des critères raciaux, économiques et idéologiques. Cette nouvelle capacité est alimentée par une intelligence artificielle qui tente de créer un contenu de haute qualité susceptible de devenir viral sur les réseaux sociaux aux États-Unis et dans d'autres démocraties. Ces images sont très probablement créées par ce que l'on appelle des générateurs d'images alimentés par diffusion, qui utilisent l'intelligence artificielle non seulement pour créer des images convaincantes, mais aussi pour apprendre à les améliorer au fil du temps.
Le Centre d'analyse des menaces de Microsoft (MTAC) publie Sophistication, portée et échelle : Les menaces numériques en provenance d'Asie de l'Est gagnent en ampleur et en efficacité ( Sophistication, scope, and scale: Digital threats from East Asia increase in breadth and effectiveness), dans le cadre d'une série de rapports sur la menace que représentent les opérations d'influence et la cyberactivité, en identifiant des secteurs et des régions spécifiques présentant un risque accru.
Le rapport a observé que des acteurs affiliés à la Chine utilisent des médias visuels générés par l'IA dans le cadre d'une vaste campagne qui se concentre principalement sur des sujets qui sèment la discorde politique, tels que la violence armée, et qui dénigrent des personnalités et des symboles politiques américains. Cette technologie produit un contenu plus accrocheur que les dessins numériques maladroits et les collages de photos d'archives utilisés dans les campagnes précédentes. On peut s'attendre à ce que la Chine continue à perfectionner cette technologie au fil du temps, mais il reste à voir comment et quand elle la déploiera à grande échelle.
Comme Microsoft l'a noté dans son récent rapport intitulé Governing AI : A Blueprint for the Future, les institutions des secteurs public et privé doivent s'attaquer collectivement à la militarisation de la technologie, y compris de l'IA, par les acteurs de la cybermenace et de la menace d'influence. Microsoft rend compte des menaces numériques détectées - y compris l'utilisation de l'IA - afin d'informer les décideurs politiques, les praticiens de la sécurité et le public de toute menace, actuelle ou émergente, que les nouvelles technologies peuvent représenter pour l'intégrité de l'information et la démocratie. Microsoft continuera à partager ses connaissances et à inviter ses partenaires à faire de même, dans le cadre du plan d'ensemble visant à promouvoir la transparence et à guider la gouvernance de l'IA.
Dans le cadre de ses cyberopérations, de nombreux acteurs de la menace affiliés à l'État chinois ont concentré leurs cyberattaques dans la région de la mer de Chine méridionale, procédant à la collecte de renseignements et à l'exécution de logiciels malveillants contre les gouvernements et les industries de la région. D'autres acteurs ont ciblé l'industrie de la défense et les infrastructures américaines, à la recherche d'avantages concurrentiels pour soutenir des objectifs militaires stratégiques.
À partir de mai 2023, Storm-0558, un acteur de la menace basé en Chine, a accédé aux comptes de messagerie des clients de Microsoft d'environ 25 organisations, y compris des entités gouvernementales américaines et européennes. Microsoft estime que cette activité a probablement été menée à des fins d'espionnage et a réussi à bloquer cette campagne.
Le rapport explique également comment la Chine a poursuivi ses efforts à l'échelle mondiale pour diffuser de la propagande d'État et adoucir l'image du pays à l'étranger. Le gouvernement chinois investit des ressources dans la diffusion de messages dans un plus grand nombre de langues et sur un plus grand nombre de plateformes, tout en faisant évoluer ses techniques. Par exemple, on sait que la Chine emploie plus de 230 employés et affiliés des médias d'État qui se font passer pour des influenceurs indépendants sur les principales plateformes de médias sociaux occidentaux.
Ces influenceurs, qui sont recrutés, formés, encouragés et financés par China Radio International (CRI) et d'autres médias d'État chinois, diffusent de manière experte une propagande localisée du PCC qui suscite un engagement significatif de la part d'audiences du monde entier, atteignant une audience combinée d'au moins 103 millions de personnes sur de multiples plateformes et parlant au moins 40 langues.
Si les groupes de menace basés en Chine continuent de développer et d'utiliser d'impressionnantes capacités cybernétiques et opérations d'OI, le rapport n'a pas observé la Chine combiner cyber et influence - contrairement à l'Iran et à la Russie, qui s'engagent régulièrement dans des campagnes de piratage et de fuites.
En plus de ce que le rapport a observé en Chine, la Corée du Nord est une cybermenace capable, qui se concentre sur la collecte de renseignements et le vol de crypto-monnaies nécessaires pour générer des revenus pour l'État. Plusieurs acteurs de la menace nord-coréenne ont ciblé les secteurs maritime et de la construction navale, ce qui laisse penser qu'il s'agit d'un domaine hautement prioritaire pour le gouvernement nord-coréen. En outre, plusieurs acteurs nord-coréens ont récemment ciblé le gouvernement russe et l'industrie de la défense, probablement à des fins de collecte de renseignements, tout en apportant un soutien matériel à la Russie dans sa guerre contre l'Ukraine.
Le rapport se penche également sur les actions anticipées de la Chine et de la Corée du Nord dans les mois à venir, alors que les tensions géopolitiques croissantes alimentent de nouvelles priorités en matière de menaces et de stratégies d'adversité. À l'approche des élections de 2024, Taïwan et les États-Unis resteront probablement des priorités pour la Chine.
Aucune plateforme technologique, y compris celle de Microsoft, n'est parfaite. Mais comme les acteurs étatiques continuent de cibler les vulnérabilités et de déployer des récits malveillants à travers le monde, Microsoft pense qu'il est vital de continuer à partager des informations telles que ce rapport et d'accroître la collaboration interprofessionnelle sur ces questions importantes.
Source : "Sophistication, scope, and scale: Digital threats from East Asia increase in breadth and effectiveness", Microsoft
Et vous ?
Pensez-vous que ce rapport est crédible ou pertinent ?
Voir aussi :
Répondre avec citation
Envoyé par Jade Emy
Partager