IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Intelligence artificielle Discussion :

Le Pentagone veut utiliser l'IA pour créer des deepfakes indétectables par les humains et les ordinateurs


Sujet :

Intelligence artificielle

  1. #1
    Chroniqueur Actualités

    Homme Profil pro
    Rédacteur technique
    Inscrit en
    Juin 2023
    Messages
    916
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Bénin

    Informations professionnelles :
    Activité : Rédacteur technique
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Juin 2023
    Messages : 916
    Points : 16 320
    Points
    16 320
    Par défaut Le Pentagone veut utiliser l'IA pour créer des deepfakes indétectables par les humains et les ordinateurs
    Le Pentagone veut utiliser l'IA pour créer de faux internautes qui seraient indétectables par les humains et les ordinateurs
    tout en dénonçant l'utilisation des deepfakes par la Chine et la Russie

    Un document de passation de marché qui a fait l'objet de fuite révèle les dessous d'une réflexion préoccupante au sein du Pentagone. Le département américain de la Défense recherche des prestataires privés pour l'aider à créer de faux internautes si convaincants que ni les humains ni les ordinateurs ne pourront détecter qu'ils sont faux. Le document indique que ces faux avatars seront utilisés sur les plateformes de médias sociaux afin de recueillir des informations. Les analystes suggèrent également que cette technologie pourrait potentiellement permettre au Pentagone de mener des opérations d'influence à grande échelle en ligne.

    Le Pentagone cherche le moyen de créer des deepfakes indétectables

    Le ministère américain de la Défense veut se doter d'une technologie qui lui permettra de créer des personnages en ligne impossibles à distinguer des personnes réelles. C'est du moins ce que révèle un document de passation de marché qui a fait l'objet de fuite et obtenu par The Intercept. Un rapport exposant les grandes lignes du document et la liste de souhaits du gouvernement américain a suscité indignation et préoccupations au sein de la communauté. Il révèle en effet que les États-Unis tentent secrètement d'exploiter une technologie dangereuse contre laquelle le pays n'a pas cessé de mettre en garde.

    La liste de souhaits du Commandement des opérations spéciales conjointes (JSOC) indique que « les forces d'opérations spéciales (SOF) sont intéressées par des technologies pouvant générer des personnalités en ligne convaincantes à utiliser sur les plateformes de réseaux sociaux et d'autres contenus en ligne ». Elle ajoute : « la solution devrait inclure des images faciales et d'arrière-plan, des vidéos faciales et d'arrière-plan, ainsi que des couches audio ».

    Nom : Capture d'écran 2024-10-18 134933.png
Affichages : 6004
Taille : 105,7 Ko

    Selon le JSOC, « la technologie deepfake devra lui permettre de créer un environnement virtuel indétectable par les algorithmes des médias sociaux ». Le document indique que « les troupes d'opérations spéciales utiliseront cette capacité pour recueillir des informations sur les forums publics en ligne », sans autre explication sur la manière dont ces utilisateurs artificiels d'Internet seront utilisés. Ce qui a donné lieu à de nombreuses spéculations sur la toile.

    Le document du JSOC indique que « le Pentagone veut être en mesure de créer des profils en ligne qui semblent être un individu unique reconnaissable comme humain, mais qui n'existe pas dans le monde réel ». Il précise que chaque profil comprendrait des « expressions multiples et des photos de qualité d'identification gouvernementale ». Le JSOC espère aussi pouvoir générer des « vidéos selfies » à partir de ces personnes fabriquées de toutes pièces.

    Ces vidéos ne comporteront pas que de fausses personnes. Selon le document, « chaque selfie deepfake sera accompagné d'un arrière-plan simulé correspondant pour créer un environnement virtuel indétectable par les algorithmes des médias sociaux ». Sur la toile, un commentateur a écrit : « qu'est-ce qui pourrait mal tourner ? Pendant des années, ils ont accusé les robots russes de manipuler nos élections. Mais ils vont faire la même chose, ou le font déjà ».

    Le Pentagone n'est pas à son premier coup d'essai dans ce domaine

    Ces dernières années, le Pentagone a déjà été pris en flagrant délit d'utilisation de faux comptes de médias sociaux pour servir ses intérêts. En 2022, Meta et Twitter ont supprimé un réseau de propagande utilisant de faux comptes gérés par l'US Central Command, dont certains avaient des photos de profil générées avec des méthodes similaires à celles décrites par le JSOC. En 2024, une enquête de Reuters a mis en lumière une campagne du JSOC utilisant de faux comptes de médias sociaux dans le but de saper la confiance des étrangers dans le vaccin Covid de la Chine. Mais les rapports ne s'arrêtent pas là.

    L'année dernière, le SOCOM (The United States Special Operations Command) a exprimé son intérêt pour « l'utilisation de vidéos deepfakes dans le cadre d'opérations d'influence, de déception numérique, de perturbation de la communication et de campagnes de désinformation ». La liste de souhaits du SOCOM de cette année a révélé un intérêt pour un logiciel similaire à StyleGAN, un outil lancé par Nvidia et qui a alimenté le site Web « This Person Does Not Exist ».

    Nom : Capture d'écran 2024-10-18 135059.png
Affichages : 835
Taille : 167,2 Ko

    Moins d'un an après le lancement de StyleGAN, Facebook a déclaré avoir supprimé un réseau de comptes qui utilisaient la technologie pour créer de fausses photos de profil. Depuis lors, les chercheurs se sont engagés dans une course entre de nouveaux moyens de créer des deepfakes indétectables et de nouveaux moyens de les détecter. De nombreux services publics exigent désormais une détection de la vivacité pour déjouer les photos d'identité truquées.

    Ils demandent aux candidats humains de télécharger une vidéo selfie pour prouver qu'ils sont une personne réelle, un obstacle que le SOCOM pourrait être intéressé à déjouer. Comme souligné plus haut, la liste de souhaits demande un logiciel capable de générer des selfies deepfake. Elle précise en outre que les contenus générés par le logiciel, y compris les phots et les vidéos, doivent être indétectables par les humains et les systèmes de détections de deepfakes.

    Cette liste détaillée de souhaits montre que les États-Unis utilisent exactement les mêmes technologies et techniques que celles qu'ils condamnent lorsqu'elles sont utilisées par des ennemis géopolitiques, notamment les pays tels que l'Iran, la Russie et la Chine. Les responsables américains de la sécurité nationale décrivent depuis longtemps l'utilisation de deepfakes soutenue par les États comme une menace urgente, du moins si elle est le fait d'un autre pays.

    Les États-Unis accusés d'hypocrisie concernant la technologie deepfake

    L'année dernière, le Federal Bureau of Investigation (FBI), la National Security Agency (NSA) et la Cybersecurity and Infrastructure Security Agency (CISA) des États-Unis ont déclaré que « les médias synthétiques, tels que les deepfakes, représentent un défi croissant pour tous les utilisateurs des technologies et des communications modernes ». Dans une déclaration commune, les trois agences fédérales américaines ont averti que l'utilisation généralisée de la technologie des deepfakes constituait un risque majeur. Cette année, le Pentagone a sollicité l'aide du secteur privé pour lutter contre les deepfakes.

    Nom : Capture d'écran 2024-10-18 135152.png
Affichages : 831
Taille : 130,2 Ko

    Dans une note d'information adressée aux journalistes cette année, les responsables du renseignement américain ont averti que la capacité des adversaires étrangers à diffuser des contenus générés par l'IA sans être détectés représente un « accélérateur d'influence malveillante » de la part de pays comme la Russie, la Chine et l'Iran. La liste de souhaits qui a fait l'objet de fuite révèle que le Pentagone recherche exactement la même capacité actuellement.

    Daniel Byman, membre de l'International Security Advisory Board du département d'État, a déclaré qu'en utilisant une technologie contre laquelle les États-Unis mettent en garde et qui pourrait tromper le public américain, « on peut légitiment craindre que les États-Unis ne soient perçus comme hypocrites ». L'utilisation offensive de cette technologie par les États-Unis pourrait stimuler sa prolifération et la normaliser en tant qu'outil pour tous les gouvernements.

    Daniel Byman affirme : « je suis également préoccupé par l'impact sur la confiance du public dans le gouvernement. Est-ce que certains segments du peuple américain, en général, deviendront plus méfiants à l'égard des informations émanant du gouvernement ? ». Heidy Khlaaf, responsable scientifique de l'IA à l'AI Now Institute, met en garde contre cette technologie : « ce qui est remarquable à propos de cette technologie, c'est qu'elle est purement trompeuse ».

    Selon Heidy Khlaaf, cela pourrait avoir des conséquences dangereuses : « il n'y a pas d'autres utilisations légitimes que la tromperie, et il est inquiétant de voir l'armée américaine se lancer dans l'utilisation d'une technologie contre laquelle elle a elle-même mise en garde. Cela ne fera qu'encourager d'autres armées ou adversaires à faire de même, conduisant à une société où il est de plus en plus difficile d'établir la vérité de la fiction et brouillant la sphère géopolitique ».

    Source : document ayant fait l'objet de fuite (PDF)

    Et vous ?

    Quel est votre avis sur le sujet ?
    Que pensez-vous de l'utilisation de la technologie deepfake par un pays comme les États-Unis ?
    Quelles implications une utilisation offensive des deepfakes par les États-Unis pourrait-elle avoir sur le reste du monde ?
    Les États-Unis cherchent à créer des deepfakes indétectables tout en dénonçant leur utilisation par la Chine et la Russie. Qu'en pensez-vous ?

    Voir aussi

    Le Pentagone étudie les utilisations militaires des grands modèles de langage (LLM) qui peuvent soutenir et potentiellement perturber la planification et la prise de décision militaires/

    Le Pentagone accélère l'intégration de l'IA pour maintenir sa compétitivité face à la Chine, avec des indications selon lesquelles les États-Unis développeront des armes autonomes létales

    La NSA, le FBI et la CISA publient une fiche d'information sur la cybersécurité concernant les menaces liées aux Deepfake

  2. #2
    Membre confirmé
    Homme Profil pro
    autre
    Inscrit en
    Juin 2014
    Messages
    164
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Aveyron (Midi Pyrénées)

    Informations professionnelles :
    Activité : autre

    Informations forums :
    Inscription : Juin 2014
    Messages : 164
    Points : 578
    Points
    578
    Par défaut
    Honnêtement, j'étais persuadé que ça faisait déjà partie de leur arsenal.


    Ha bah oui, ça fait déjà partie de leur arsenal.
    Ils veulent rajouter de la vidéo en plus des images/textes déjà générés :
    Ces dernières années, le Pentagone a déjà été pris en flagrant délit d'utilisation de faux comptes de médias sociaux pour servir ses intérêts. En 2022, Meta et Twitter ont supprimé un réseau de propagande utilisant de faux comptes gérés par l'US Central Command, dont certains avaient des photos de profil générées avec des méthodes similaires à celles décrites par le JSOC. En 2024, une enquête de Reuters a mis en lumière une campagne du JSOC utilisant de faux comptes de médias sociaux dans le but de saper la confiance des étrangers dans le vaccin Covid de la Chine. Mais les rapports ne s'arrêtent pas là.

    L'année dernière, le SOCOM (The United States Special Operations Command) a exprimé son intérêt pour « l'utilisation de vidéos deepfakes dans le cadre d'opérations d'influence, de déception numérique, de perturbation de la communication et de campagnes de désinformation ». La liste de souhaits du SOCOM de cette année a révélé un intérêt pour un logiciel similaire à StyleGAN, un outil lancé par Nvidia et qui a alimenté le site Web « This Person Does Not Exist ».

  3. #3
    Membre expert
    Profil pro
    programmeur du dimanche
    Inscrit en
    Novembre 2003
    Messages
    885
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations professionnelles :
    Activité : programmeur du dimanche
    Secteur : Santé

    Informations forums :
    Inscription : Novembre 2003
    Messages : 885
    Points : 3 810
    Points
    3 810
    Par défaut
    La question serait plus "quel est le % résiduel d'humain" parmi tous les bots.

    Entre les fermes à troll russes, chinoises, américaines, etc...

    Peut-être qu'il n'y a plus que des pays sans colonne vertébrale qui n'en n'ont pas ? La France a ignoré des campagnes massives de retournement d'opinions sur les réseau sociaux (Burkina, Mali, Niger, Nouvelle Calédonie, Antilles...), lesquelles ont été dévastatrices avec l'action classique (soutien financier et armé de dissidents...). Pourquoi ? C'est l'administration qui gère les affaires courantes ? Quelqu'un tout en haut a décidé de laisser pourrir le réel pour se contenter de refiler le bébé ?

  4. #4
    Membre actif
    Homme Profil pro
    Ingénieur développement logiciels
    Inscrit en
    Octobre 2002
    Messages
    91
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Ingénieur développement logiciels
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Octobre 2002
    Messages : 91
    Points : 204
    Points
    204
    Par défaut
    Le Centre national chinois d’intervention d’urgence contre les virus informatiques a publié lundi son dernier rapport sur l’opération Typhon Volt, exposant une fois de plus les opérations de cyber-espionnage et de désinformation menées par les agences gouvernementales étasuniennes, y compris une technique permettant d’induire en erreur les enquêtes et piéger d’autres pays en les accusant d’activités de cyber-espionnage menés par les Etats-Unis eux-mêmes.

    C’est également la première fois que le centre publie le rapport en plusieurs langues, dont le chinois, l’Anglais, le Français, l’Allemand et le Japonais.

    https://lesakerfrancophone.fr/les-ar...ns-despionnage

  5. #5
    Membre régulier
    Homme Profil pro
    Développeur Back-End
    Inscrit en
    Août 2021
    Messages
    50
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 52
    Localisation : France, Nord (Nord Pas de Calais)

    Informations professionnelles :
    Activité : Développeur Back-End
    Secteur : Industrie

    Informations forums :
    Inscription : Août 2021
    Messages : 50
    Points : 118
    Points
    118
    Par défaut
    Surpris que cela n'existe pas dèja !

    "générer des personnalités en ligne convaincantes" vu le niveau de certains commentaires ,

    c'est pas difficile a atteindre de demande ...

  6. #6
    Membre émérite
    Homme Profil pro
    Chargé de projets
    Inscrit en
    Décembre 2019
    Messages
    737
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 34
    Localisation : France, Hérault (Languedoc Roussillon)

    Informations professionnelles :
    Activité : Chargé de projets
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Décembre 2019
    Messages : 737
    Points : 2 709
    Points
    2 709
    Par défaut
    Citation Envoyé par Fagus Voir le message
    La France a ignoré des campagnes massives de retournement d'opinions sur les réseau sociaux (Burkina, Mali, Niger, Nouvelle Calédonie, Antilles...), lesquelles ont été dévastatrices avec l'action classique (soutien financier et armé de dissidents...). Pourquoi ? C'est l'administration qui gère les affaires courantes ? Quelqu'un tout en haut a décidé de laisser pourrir le réel pour se contenter de refiler le bébé ?
    Quelqu'un en haut qui sort du système bancaire américain à organisé un système de mise en faillite de l'état pour se gaver dessus avec ses copains Français et Américains.

    Ils l'ont fait à la Grèce, à l'Espagne, on est sur la liste avec l'Italie. Ils ruineront et détruiront l'économie de l'UE pour mettre les USA en avant et nous faire importer tout ce qu'on consomme alors que la France avait l'une des meilleures balance commerciale du monde il y a peine 50 ans. On appelle ça une subjugation, c'est normalement interdit dans la charte des nations unies. Mais nos dirigeant font des efforts pour que ça ait l'air consenti et pas imposé.

    Mais c'est complotiste alors chut.

Discussions similaires

  1. [JFOR][RTF]Utilisation de jfor pour générer des RTF
    Par pistache42 dans le forum XML/XSL et SOAP
    Réponses: 1
    Dernier message: 28/04/2006, 10h23
  2. utilisation du header pour ouvrir des .doc
    Par krolineeee dans le forum Langage
    Réponses: 1
    Dernier message: 09/03/2006, 15h57
  3. utiliser données texte pour faire des calculs
    Par sarah67 dans le forum Access
    Réponses: 20
    Dernier message: 06/02/2006, 15h09
  4. utiliser un script pour inserer des objets 3D
    Par s_mihai dans le forum Général JavaScript
    Réponses: 5
    Dernier message: 09/08/2005, 14h52
  5. Utiliser un parser pour extraire des formules
    Par EpOnYmE187 dans le forum C++
    Réponses: 2
    Dernier message: 16/03/2005, 00h55

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo