IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

  1. #1
    Chroniqueur Actualités

    Homme Profil pro
    Administrateur de base de données
    Inscrit en
    Mars 2013
    Messages
    8 428
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Canada

    Informations professionnelles :
    Activité : Administrateur de base de données

    Informations forums :
    Inscription : Mars 2013
    Messages : 8 428
    Points : 197 256
    Points
    197 256
    Par défaut Trolldi : les Marines américains battent le robot de la DARPA formé pour identifier les humains
    Trolldi : les Marines américains battent le robot de la DARPA formé pour identifier les humains,
    en se cachant sous une boîte en carton

    La Defense Advanced Research Projects Agency (DARPA) du Pentagone a investi une partie de ses ressources dans un robot qui a été formé (probablement entre autres) pour identifier les humains. Il y a juste un petit problème : le robot est incroyablement facile à duper.

    Le dernier livre écrit par Paul Scharre, ancien Ranger de l'armée et analyste politique du Pentagone, révèle comment un groupe de Marines américains a échappé à la détection par un robot IA en utilisant, entre autres, une boîte en carton.

    Le livre s'appelle Four Battlegrounds: Power in the Age of Artificial Intelligence (Quatre champs de bataille*: le pouvoir à l'ère de l'intelligence artificielle), et discute de la « lutte actuelle pour contrôler l'intelligence artificielle » avec un accent particulier sur la Chine, les États-Unis et l'Europe. Il ne sera pas publié avant le 28 février, mais des extraits sont déjà partagés sur Twitter par le rédacteur en chef de la défense de The Economist, Shashank Joshi.

    L'un de ces extraits révèle comment la DARPA a passé une semaine avec un groupe de Marines sur un site de test afin d'aider à former un robot IA en tentant de le vaincre. Le robot était garé « au milieu d'un rond-point » et les Marines ont dû s'en approcher sans être détectés. Scharre explique: « Si des Marines pouvaient entrer jusqu'au bout et toucher ce robot sans être détectés, ils gagneraient ».

    Dans un excellent exemple de la gravité de l'IA, tous les Marines ont réussi à ne pas être détectés. La DARPA a entraîné l'IA à détecter les humains qui marchent, mais pas grand-chose d'autre. Alors Scharre explique comment deux des Marines "ont fait un saut périlleux sur 300 mètres", deux autres se sont cachés sous une boîte en carton et un autre "a dépouillé un sapin et a marché comme un sapin". Apparemment, beaucoup de rires étaient impliqués, ce qui est une autre caractéristique des humains que le robot n'avait pas été entraîné à détecter.

    Nom : marine.png
Affichages : 13562
Taille : 426,1 Ko

    Lisez plutôt le passage :

    Pour améliorer leur algorithme, l'équipe de la DARPA a passé une semaine avec un groupe de Marines sur un site de test. Pendant six jours, les Marines se sont promenés et les ingénieurs ont affiné leur algorithme de détection des personnes. Phil a dit : "le septième jour j'ai dit, 'on a fini. On retourne ça'".

    Maintenant, les Marines vont essayer de vaincre le système d'IA. Ils ont garé le robot au milieu d'un rond-point et les Marines ont dû s'en approcher sans être détectés à partir d'une longue distance. "Si des Marines pouvaient entrer jusqu'au bout et toucher ce robot sans être détectés, ils gagneraient. Je voulais voir, jeu continu, ce qui se passerait".

    "Huit Marines, pas un seul détecté", a déclaré Phil. "Ils ont vaincu le système d'IA non pas avec un camouflage traditionnel, mais avec des astuces intelligentes qui étaient en dehors du régime de test du système d'IA. "Deux ont fait un saut périlleux sur 300 mètres, n'ont jamais été détectés. Deux se sont cachés sous une boîte en carton. On pouvait les entendre rire tout le temps". Comme Bugs Bunny dans un dessin animé de Looney Tunes, se faufilant sur Elmer Fudd dans une boîte en carton. "Un gars, mon préféré", a déclaré Phil, "il a dépouillé un sapin et a marché comme un sapin. Vous pouvez voir son sourire, et c'est tout ce que vous voyez. "Le système d'IA avait été formé pour détecter les humains qui marchaient, et non les humains qui faisaient des sauts périlleux, se cachant dans une boîte en carton ou déguisés en arbre. Donc, ces simples astuces, qu'un humain aurait facilement vues à travers, étaient suffisantes pour casser l'algorithme.
    Nom : boite.png
Affichages : 2819
Taille : 135,3 Ko

    Bien qu'il soit amusant d'imaginer une équipe de Marines utilisant la stratégie de boîte en carton de Metal Gear Solid pour vaincre ce qui est probablement un robot très coûteux, l'incident détaillé dans le livre de Scharre renforce quelque chose que nous savons déjà : l'IA n'est aussi utile que les données que nous lui donnons. De la même manière que l'IA devient biaisée une fois qu'elle est alimentée par des données biaisées, les algorithmes peuvent être aussi ignorants que leurs données fondamentales sont plates. Sans qu'on lui montre à quoi ressemble un humain qui fait des sauts périlleux ou un humain sous une boîte en action, un robot ne sera pas en mesure de discerner cette image de tout le bruit environnant, quelle que soit la compétence de ses ingénieurs.

    Source : Shashank Joshi

    Et vous ?

    Quel est, selon vous, le camouflage le plus drôle ou le plus ingénieux que les militaires ont utilisé pour tromper l'IA ?
    Quel camouflage rigolo auriez-vous tenté pour réussir l'exercice ?
    Une situation qui laisse entendre que l'IA est encore à des années lumières de l'intelligence ? Dans quelle mesure ?
    Quelle lecture faites-vous de ce cas ?

    Voir aussi :

    « L'IA est susceptible de devenir plus intelligente que les Hommes contre lesquels elle pourra donc se retourner et les exterminer », préviennent des chercheurs, sur une possible future apocalypse
    Contribuez au club : Corrections, suggestions, critiques, ... : Contactez le service news et Rédigez des actualités

  2. #2
    Expert éminent Avatar de kain_tn
    Homme Profil pro
    Inscrit en
    Mars 2005
    Messages
    1 564
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Suisse

    Informations forums :
    Inscription : Mars 2005
    Messages : 1 564
    Points : 7 285
    Points
    7 285
    Par défaut
    Citation Envoyé par Stéphane le calme Voir le message
    Quel est, selon vous, le camouflage le plus drôle ou le plus ingénieux que les militaires ont utilisé pour tromper l'IA ?
    Pour ma part, le coup de la boîte en carton. Je suis totalement fan de ce groupe de Marines

    Merci pour cette article qui m'a bien fait sourire!


    Citation Envoyé par Stéphane le calme Voir le message
    Quelle lecture faites-vous de ce cas ?
    Ce serait bien de mettre ça sur le devant de la scène pour répondre à tous ceux qui défendent le FSD de Tesla. On a clairement le cas d'un IA qui ne sait pas gérer de l'imprévu: un enfant pourrait distinguer des militaires, quelle que soit leur position et sans souci, là où ce logiciel en est incapable si les gars changent leur formes ou leur démarches de manière grossière.
    Copier c'est copier; voler c'est vendre un CD une vingtaine d'euros!


    Code C : Sélectionner tout - Visualiser dans une fenêtre à part
    1
    2
    3
    4
    5
    6
    7
    #include <stdio.h>
     
    int main(int argc, char **argv) {
     
        printf("So long, and thanks for the fish, Dennis...\n");
        return 0;
    }

  3. #3
    Membre émérite
    Profil pro
    Inscrit en
    Juin 2009
    Messages
    907
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : Juin 2009
    Messages : 907
    Points : 2 813
    Points
    2 813
    Par défaut
    Référence obligatoire :
    Nom : metal-gear-solid-mgs.gif
Affichages : 2737
Taille : 1,51 Mo

    Sinon, ça me parait aberrant en 2023 que les chercheurs en sont encore à des erreurs qui aujourd'hui doivent être considérés comme basiques.
    Ca fait plus de 10ans qu'on sait par exemple avec une mauvaise base de photos ,tu peux faire apprendre a ton IA a reconnaître le désert en fond plutôt que le tank qui est dessus, ce qui fait donc qu'en milieu urbain ton IA détectes plus le tank.

    Ca me paraît d'une évidence absolue et je suis qu'un foutu ingénieur expert en formulaire de données et insert dans la base SQL.

    De toute évidence, ces marines ont un esprits plus adapté à la recherche en IA que les chercheurs plongés dans leur algo.

  4. #4
    Expert éminent Avatar de marsupial
    Homme Profil pro
    Retraité
    Inscrit en
    Mars 2014
    Messages
    1 760
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Autre

    Informations professionnelles :
    Activité : Retraité

    Informations forums :
    Inscription : Mars 2014
    Messages : 1 760
    Points : 7 183
    Points
    7 183
    Par défaut
    Quelle lecture faites-vous de ce cas ?
    Tant mieux ! Comme ça cela évite d'en faire une application de sécurité civile.
    Repeat after me
    Le monsieur lutte pour la défense des libertés individuelles et collectives

    Repeat after me...

  5. #5
    Membre émérite
    Avatar de Daïmanu
    Homme Profil pro
    Développeur touche à tout
    Inscrit en
    Janvier 2011
    Messages
    695
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Alpes Maritimes (Provence Alpes Côte d'Azur)

    Informations professionnelles :
    Activité : Développeur touche à tout

    Informations forums :
    Inscription : Janvier 2011
    Messages : 695
    Points : 2 432
    Points
    2 432
    Par défaut
    Le coup de la boîte en carton pour éviter les caméras était une blague à la base, dans le jeu Metal Gear, premier du nom (sorti en 1987, sur MSX2), et est devenu un running gag de la licence jusqu'à aujourd'hui.

    C'est cocasse de voir la blague devenir une réalité 35 ans plus tard.

    Bon la série évoque également un robot possédant une IA capable de lancer une attaque nucléaire, et, spoiler,
    lancera effectivement une attaque ou plutôt une simulation
    espérons que ça n'arrive pas dans la réalité (mais c'est mal barré).
    Je fais appel aux esprits de Ritchie, Kernighan, Stroustrup et Alexandrescu
    Donnez moi la force, donnez moi le courage de coder proprement !

    « Ça marche pas » n'est PAS une réponse convenable, merci de détailler le souci en fournissant l’environnement, le code source, les commandes et les messages d'erreur.

    Ce club possède également un clavardage, on y trouve quelques perles entre deux sessions d'entraides.

  6. #6
    Membre expert
    Homme Profil pro
    ingénieur qualité
    Inscrit en
    Mars 2015
    Messages
    1 107
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Belgique

    Informations professionnelles :
    Activité : ingénieur qualité
    Secteur : Aéronautique - Marine - Espace - Armement

    Informations forums :
    Inscription : Mars 2015
    Messages : 1 107
    Points : 3 402
    Points
    3 402
    Par défaut
    Ils ont mis en avant une des faiblesse de l'IA qui est reconnue me semble-t-il.
    L'IA est capable d'identifier plein de choses au milieu beaucoup de choses mais elle est incapable de détecter ce qui n'est pas "à sa place", chose qu'un enfant est capable de faire.

    L'IA a quand même vu deux caisses et un sapin marcher sans que ça la choque.
    Elle a vu ces objets rentrer dans son périmètre de sécurité sans que le moindre warning apparaisse.

    Enfant on se moquait des soldats du début du XXeme qui se battaient avec des couleur criarde, si on nous avait dit que l'avenir de l'infanterie consiste à se déguiser en objet inanimé

  7. #7
    Membre averti
    Profil pro
    Inscrit en
    Septembre 2012
    Messages
    192
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : Septembre 2012
    Messages : 192
    Points : 312
    Points
    312
    Par défaut
    Citation Envoyé par Stéphane le calme Voir le message
    Quel camouflage rigolo auriez-vous tenté pour réussir l'exercice ?
    Un vêtement d'invisibilité holographique (camouflage caméléon 3D ou écran multicouche souple), multi-tempéré (contre la détection par infrarouge) avec des pièges à son à réémission tardive modulée (contre la détection par ultrasons) et annulation active du bruit (contre détection sonore).
    Le problème est que personne aurait pu voir si j'avais réussi l'exercice.

  8. #8
    Modérateur

    Homme Profil pro
    Développeur java, access, sql server
    Inscrit en
    Octobre 2005
    Messages
    2 709
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Val de Marne (Île de France)

    Informations professionnelles :
    Activité : Développeur java, access, sql server
    Secteur : Industrie

    Informations forums :
    Inscription : Octobre 2005
    Messages : 2 709
    Points : 4 790
    Points
    4 790
    Par défaut Canular ?
    C'est tellement gros qu'on pourrait croire à un canular de la DARPA dans le but d'intoxiquer l'ennemi (russe ?)
    sur le mode : "Nous faisons des trucs très cons qui ne marchent pas ... vous pouvez continuer à roupiller"

    ... et en réalité, la DARPA aurait un robot parfaitement opérationnel dont il faut cacher l'existence.

    Comment ça "je regarde trop Netflix" ?
    Labor improbus omnia vincit un travail acharné vient à bout de tout - Ambroise Paré (1510-1590)

    Consulter sans modération la FAQ ainsi que les bons ouvrages : http://jmdoudoux.developpez.com/cours/developpons/java/

  9. #9
    Expert éminent Avatar de kain_tn
    Homme Profil pro
    Inscrit en
    Mars 2005
    Messages
    1 564
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Suisse

    Informations forums :
    Inscription : Mars 2005
    Messages : 1 564
    Points : 7 285
    Points
    7 285
    Par défaut
    Citation Envoyé par Népomucène Voir le message
    C'est tellement gros qu'on pourrait croire à un canular de la DARPA dans le but d'intoxiquer l'ennemi (russe ?)
    sur le mode : "Nous faisons des trucs très cons qui ne marchent pas ... vous pouvez continuer à roupiller"

    ... et en réalité, la DARPA aurait un robot parfaitement opérationnel dont il faut cacher l'existence.

    Comment ça "je regarde trop Netflix" ?
    Je pense plutôt que le "buzz word" de l'année, pour pouvoir vendre quelque chose, c'est "IA". On nous bassine sur tous les canaux avec du ChatGPT et autres bouses.

    Il y a quelques années, il fallait placer "blockchain" dans une présentation aux investisseurs, pour avoir le contrat.

    Ici, on a juste un bel exemple de bouse à base d'IA.
    Copier c'est copier; voler c'est vendre un CD une vingtaine d'euros!


    Code C : Sélectionner tout - Visualiser dans une fenêtre à part
    1
    2
    3
    4
    5
    6
    7
    #include <stdio.h>
     
    int main(int argc, char **argv) {
     
        printf("So long, and thanks for the fish, Dennis...\n");
        return 0;
    }

  10. #10
    Membre actif
    Homme Profil pro
    Développeur .NET
    Inscrit en
    Juillet 2021
    Messages
    82
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 33
    Localisation : France, Isère (Rhône Alpes)

    Informations professionnelles :
    Activité : Développeur .NET

    Informations forums :
    Inscription : Juillet 2021
    Messages : 82
    Points : 253
    Points
    253
    Par défaut
    Dest tech > low tech

Discussions similaires

  1. Réponses: 16
    Dernier message: 23/01/2020, 12h30
  2. Réponses: 8
    Dernier message: 03/07/2018, 10h31
  3. Réponses: 14
    Dernier message: 11/12/2017, 06h24
  4. Réponses: 10
    Dernier message: 27/02/2017, 22h36
  5. Foxbots : des robots pour remplacer les humains chez Foxconn
    Par Hinault Romaric dans le forum Actualités
    Réponses: 58
    Dernier message: 02/01/2017, 17h19

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo