+ Répondre à la discussion Actualité déjà publiée
  1. #1
    Chroniqueur Actualités
    Avatar de Michael Guilloux
    Homme Profil pro
    Consultant
    Inscrit en
    juillet 2013
    Messages
    1 617
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 27
    Localisation : Côte d'Ivoire

    Informations professionnelles :
    Activité : Consultant
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : juillet 2013
    Messages : 1 617
    Points : 46 728
    Points
    46 728
    Billets dans le blog
    2

    Par défaut Elon Musk appelle les Nations Unies à bannir les robots tueurs dans une lettre ouverte

    Elon Musk appelle les Nations Unies à bannir les robots tueurs dans une lettre ouverte
    signée par 116 spécialistes de l’IA et la robotique

    Le patron de Tesla Elon Musk a plusieurs fois mis en garde contre les dangers de l’intelligence artificielle. Le milliardaire de la tech estime que les armes nucléaires sont potentiellement moins dangereuses que l’IA et à certaines occasions, il n’a pas manqué non plus de dire que l’intelligence artificielle pose « beaucoup plus de risques » que le régime de Kim Jong Un. L’une de ses dernières interventions sur les dangers de l’IA a eu lieu en juillet dernier lors du National Governors Association Summer Meeting, une conférence des gouverneurs américains. À cette occasion, Elon Musk a encore qualifié l’IA comme un risque fondamental pour l'existence de la civilisation humaine, en expliquant par la suite que son désir de coloniser Mars était en partie un plan de secours au cas où l’IA parvient à prendre le dessus sur l’Homme sur Terre.

    Lors d’une récente conférence sur l'intelligence artificielle à Melbourne, Elon Musk s’est encore attaqué à l’IA et la robotique, notamment aux armes autonomes. Il faut en effet noter qu’aujourd’hui, plus d'une dizaine de pays – y compris les États-Unis, la Chine, Israël, la Corée du Sud, la Russie et la Grande-Bretagne – développent actuellement des systèmes d'armes autonomes, selon un rapport de Human Rights Watch. Face à cette menace mondiale, Elon Musk et Mustafa Suleyman de Google, à la tête d’un groupe de 116 spécialistes de l’IA et la robotique, ont appelé les Nations Unies à interdire les armes autonomes, à travers une lettre ouverte.

    Dans la lettre ouverte, Elon Musk et son groupe reconnaissent leur rôle indirect dans le développement d’armes autonomes en tant qu’entreprises qui développent des technologies de l’IA et de la robotique. Ces technologies « peuvent être réorientées pour développer des armes autonomes [et] nous nous sentons particulièrement responsables de lancer cette alerte », disent-ils.

    La Conférence des Nations Unies sur la Convention sur certaines armes classiques (CCW) a décidé de mettre en place un groupe d'experts gouvernementaux (GGE) sur les systèmes d'armes autonomes létales ; une initiative qui est d’ailleurs saluée par ces spécialistes de l’IA et la robotique. Mais « beaucoup de nos chercheurs et ingénieurs souhaitent donner des conseils techniques dans vos délibérations », disent-ils dans la lettre ouverte adressée aux Nations Unies et qui arrive avant une réunion des experts gouvernementaux sur les armes autonomes.

    « Les armes autonomes létales menacent de devenir la troisième révolution dans la guerre. Une fois développées, elles vont propulser les conflits armés à une échelle plus grande que jamais, et à des échelles de temps plus rapides que les humains puissent comprendre. Celles-ci peuvent être des armes de terreur, des armes que les despotes et les terroristes utilisent contre des populations innocentes et des armes détournées pour se comporter de manière indésirable. Nous n'avons pas assez de temps pour agir », ont-ils averti. « Une fois que cette boîte de Pandore est ouverte, il sera difficile de la fermer. »

    « Contrairement à d'autres manifestations potentielles de l'IA, qui restent dans le domaine de la science-fiction, les systèmes d'armes autonomes sont à la pointe du développement en ce moment et ont un potentiel très réel pour causer des dommages importants aux personnes innocentes et une instabilité mondiale », a ajouté Ryan Gariepy, le fondateur de Clearpath Robotics et la première personne à signer la lettre.

    Dans la lettre, ils demandent donc « aux Hautes Parties contractantes qui participent au GGE d'empêcher une course aux [armes autonomes létales] » et de « trouver un moyen de protéger les civils de leur mauvaise utilisation et éviter les effets déstabilisants de ces technologies » ; ce qui devrait être possible s’ils associent les experts de l’IA et la robotique dans leurs prises de décision.

    Sources : CNN, The Guardian, Lettre ouverte

    Et vous ?

    Que pensez-vous de cette lettre ouverte ?

    Voir aussi :

    Elon Musk considère l'IA comme un risque fondamental pour l'existence de la civilisation humaine et sa colonisation de Mars comme un plan de secours
    Robots militaires : les États-Unis testent l'efficacité de leurs prototypes dans le Pacifique, l'armée irakienne présente son robot mitrailleur
    Contribuez au club : Corrections, suggestions, critiques, ... : Contactez le service news et Rédigez des actualités

  2. #2
    Membre averti

    Homme Profil pro
    Développeur Web
    Inscrit en
    février 2013
    Messages
    88
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Développeur Web
    Secteur : High Tech - Multimédia et Internet

    Informations forums :
    Inscription : février 2013
    Messages : 88
    Points : 442
    Points
    442
    Billets dans le blog
    1

    Par défaut

    C'est le moment d'investir dans un EMP ou de préparer à faire sauter des bombes atomiques dans la stratosphère (qui pourrait croire qu'une bombe atomique pourrait sauver l'humanité un jour)

  3. #3
    Membre émérite
    Profil pro
    Développeur
    Inscrit en
    mars 2012
    Messages
    1 427
    Détails du profil
    Informations personnelles :
    Localisation : Belgique

    Informations professionnelles :
    Activité : Développeur
    Secteur : Communication - Médias

    Informations forums :
    Inscription : mars 2012
    Messages : 1 427
    Points : 2 359
    Points
    2 359

    Par défaut

    Il va falloir redéfinir c'est quoi un robot tueur.

    Dans leurs navires de guerres, leurs avions de combat n'ont-t'ils pas des tourelles, canons qui recherchent, ciblent et tirent automatiquement...?
    Si la réponse vous a aidé, pensez à cliquer sur +1

  4. #4
    Nouveau Candidat au Club
    Inscrit en
    juin 2008
    Messages
    121
    Détails du profil
    Informations forums :
    Inscription : juin 2008
    Messages : 121
    Points : 0
    Points
    0

    Par défaut

    Autonomes mais dans quel sens. Comme le souligne hotcryx, il y déjà des technologies de tire automatique, donc si nous parlons de IA puis de robotique et d'arme autonomes, ces armes seront autonomes dans quoi exactement les décisions ? Cela peut-être rassurant afin d'éviter une bavure ( c'est déjà arrivé que l'armé abatte l'un des leurs, suite à une erreur), d'un autre coté l'IA est encore loin d'avoir une compréhension des choses, des événements alors avoir une parfaite maîtrise des soucis geopolitique de notre monde afin d'être autonome dans la protection d'un pays, la bavure existe toute autant voir peut-être plus.

    Il peut y avoir des lettres ouvertes, des traités, malgré toute la prudence que certain spécialiste avance, il y a un moment où nous y arriverons ou il y aura des robots intelligent partout. Chaque évolution positive soit t-elle, amène ses évolutions négative. En tout cas une chose est sûr je suis née 100-200 ans trop tôt.

  5. #5
    Provisoirement toléré Avatar de MikeRowSoft
    Homme Profil pro
    sans profession ou en recherche d'emploi
    Inscrit en
    avril 2013
    Messages
    1 248
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 39
    Localisation : France, Puy de Dôme (Auvergne)

    Informations professionnelles :
    Activité : sans profession ou en recherche d'emploi

    Informations forums :
    Inscription : avril 2013
    Messages : 1 248
    Points : 91
    Points
    91

    Par défaut

    Que pensez-vous de cette lettre ouverte?
    Cela s'apparente à une acte de noblesse. Bien sur historiquement cela n'est pas vraiment quelque chose de charitable.

    P.S. : À chaque monument commémoratif du mal son monument commémoratif du bien ? C'est trop tard on dirait...

  6. #6
    Expert éminent
    Homme Profil pro
    Ingénieur développement logiciels
    Inscrit en
    août 2007
    Messages
    1 700
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France

    Informations professionnelles :
    Activité : Ingénieur développement logiciels
    Secteur : High Tech - Multimédia et Internet

    Informations forums :
    Inscription : août 2007
    Messages : 1 700
    Points : 6 734
    Points
    6 734

    Par défaut

    Citation Envoyé par hunyka Voir le message
    Autonomes mais dans quel sens.
    Pour ce que j'ai lu pour le moment, il s'agit de drones qui non seulement volent en autonomie sur un territoire donné mais sont capable d'identifier une cible (un responsable de daech, par exemple) et de "décider" automatiquement de lancer une attaque pour éliminer ladite cible.

    Du coup, l'humain n'intervient que pour désigner la cible et le secteur de recherche.
    Le drone se chargeant ensuite de faire le reste.

    Le méga hic, en dehors des robots-tueurs, est que ces drones ne sont pas d'une précision de sniper.
    Ils sont armés de missiles capables de raser un immeuble et que le qualificatif de dommage collatéral acceptable et particulièrement difficile à définir au sein de l'IA...
    Que va "décider" l'IA lorsque la cible est entourée d'enfants ou se trouve à proximité d'un hôpital ?

  7. #7
    Membre averti
    Homme Profil pro
    Technicien réseau
    Inscrit en
    décembre 2014
    Messages
    88
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Rhône (Rhône Alpes)

    Informations professionnelles :
    Activité : Technicien réseau

    Informations forums :
    Inscription : décembre 2014
    Messages : 88
    Points : 330
    Points
    330

    Par défaut

    Citation Envoyé par Grimly Voir le message
    C'est le moment d'investir dans un EMP ou de préparer à faire sauter des bombes atomiques dans la stratosphère (qui pourrait croire qu'une bombe atomique pourrait sauver l'humanité un jour)
    C'est amusant, j'y pensais à cette idée-là il y a quelques jours. Le problème est qu'une bombe atomique à très puissante impulsion électromagnétique renverrait - pour ainsi dire - au Moyen-Age le pays au-dessus duquel elle exploserait...

    Imaginons que les centraux de télécommunications, les centrales électriques, les usines, les automobiles récentes, les camions et les trains, ainsi qu'à peu près tout ce qui comporte de l'électronique soit fortement endommagé par la bombe : il serait impossible de faire redémarrer rapidement ces équipements, les dégâts seraient beaucoup trop nombreux. En pratique, la famine arriverait en quelques jours, la pénurie d'eau potable aussi. L'armée US a fait un rapport à ce sujet : les conséquences seraient beaucoup plus létales qu'une bombe explosant au-dessus d'une métropole comme New-York ou Los Angeles.

    Passer par l'ONU est peut-être une manière rusée d'échapper aux groupes de pression industriels très influents, mais suffira-t-elle ? De toute façon, les Etats-Unis font ce que bon leur semble, et s'ils refusent de signer, quid des Russes ou des Chinois ?

    A mon sens, il devrait toujours y avoir un être humain pour valider par son propre jugement l'emploi d'une arme partiellement automatisée, c'est-à-dire quelqu'un capable d'évaluer in situ et a priori les conséquences de l'utilisation de l'arme. Il ne s'agit pas seulement de circonscrire le potentiel de destruction des armes (limiter les " dégâts collatéraux ", comme dirait l'autre), mais bel et bien d'éviter que des machines intelligentes retournent leurs armes contre des humains. A ce jour il n'y a pas de risque, mais dans quelques décennies, qui sait ?

  8. #8
    Membre émérite
    Profil pro
    Développeur
    Inscrit en
    mars 2012
    Messages
    1 427
    Détails du profil
    Informations personnelles :
    Localisation : Belgique

    Informations professionnelles :
    Activité : Développeur
    Secteur : Communication - Médias

    Informations forums :
    Inscription : mars 2012
    Messages : 1 427
    Points : 2 359
    Points
    2 359

    Par défaut

    Regardez cette vidéo: balles intelligentes...

    Si la réponse vous a aidé, pensez à cliquer sur +1

  9. #9
    Membre confirmé
    Profil pro
    Inscrit en
    mai 2011
    Messages
    290
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : mai 2011
    Messages : 290
    Points : 621
    Points
    621

    Par défaut

    Si je comprends bien la lettre ouverte. Ce n'est pas les robots tueurs qui sont mis en compte mais des armes avec des calculs si rapides, si puissantes qu'aucun humain ne puisse vraiment comprendre ou l’arrêter.

    Pour être franc, je suis d'accord. Prenons l'exemple de Iron Man, si Stark avait vendu et industrialisé son arme alors je peux dire qu'on serait dans une ère un peu où les seigneurs de guerres seraient partout.
    Prenons un exemple concret pour expliquer mon exemple débile, et l'arme parfaite serait le AK-47 ou Kalachnikov. Cette arme se vend comme un petit pain dans tous les pays en guerre ou tous les pays qu'ils veulent faire la guerre.

    Ici je vois les gens citent les armes automatiques sur les bateaux de guerre, etc. Trump avait déclaré par exemple que l'arsenal nucléaire utilisait encore des disquettes. Est-ce que vous voyez où je veux en venir ? Les armes actuelles coûtent la peau du cul, prennent du temps à construire. C'est pour ça qu'elles ne représentent pas un danger. Le mistral a mis entre un et deux ans avant de le livrer à la Russie. Le drone américain a coûté des milliards au contribuable américain. Et ces armes sont aujourd'hui difficile à industrialiser facilement.

    Il n'y pas eu de troisième guerre mondiale grâce a la bombe atomique, c'est pour cela qu'on a jamais fait de conflit direct pendant la guerre froide. Si la bombe nucléaire n'avaient pas existé, on serait encore en guerre. Parce que l'humain est incapable de s'entendre et encore moins de vouloir une bonne société et surtout de la partager.

    Où est le problème alors ?
    Simplement imaginez si on peut construire des armes de plus en plus petites, moins chères et moins difficiles à fabriquer. Alors là on est vraiment dans la merde.

    On a des conventions pour les prisonniers de guerre (la convention de Genève), pourquoi on aurait pas une limite pour la création automatique des armes de guerre. J'ai même vu qu'on a une convention pour ne pas installer de base militaire ou armement sur la Lune.

    Conséquence Attendue
    Les conséquences de genre de d'actes est plus important qu'on ne le croit. Un des proches de Trump a dit récemment: "on a perdu, la Corée du Nord a gagné. C'est fini".
    La Corée du Nord peut maintenant désintégrer son voisin (japon, Chine, Corée du Sud) si cela l'enchante, on parle de millions de gens. Cela veut dire quoi, la Corée du Nord restera pour un bout de temps une dictature.
    Donc on pourrait se trouver dans une situation où le peuple ne sera pas capable de renverser un pouvoir.

    Si vous comprenez pas trop le phénomène simplement, pensez à la planète des singes ou encore Walking Dead. Donnez naissance a une entité ou organisme capable d'autonomie et avec un risque de propagation mondiale en quelques jours. Le ransomware "WannaCry" est le parfaite exemple.

    Votre prochaine menace ne viendra peut-être même pas d’où vous croyez :
    • Votre enfant peut devenir un anonymous ou autre type de hacker et se prendre pour "Mr Robot";
    • Des activistes russes qui veut que défendre la Russie;
    • Des hackers de ISIS;
    • Des banquiers qui ont hacker le mauvais système pour implémenter des mines de bitcoin;
    • Une mauvaise ligne de code;
    • ...


    L'ordinateur quantique par exemple peut cracker n'importe quel mot type de communication, quand je dis n'importe lequel, c'est n'importe lequel. Après tout un chiffrage c'est juste une communication cachée. Mais l'ordinateur quantique sera capable de déchiffrer toutes les formes de communication possible. Je me rappelle encore d'alphago qui gagne tout le temps, c'est plus marrant car il se trompe jamais.

    Plus on va trop loin dans la recherche sans limite, plus on peut arriver à des choses absurdes et dévastatrices.

  10. #10
    Membre du Club
    Inscrit en
    juin 2005
    Messages
    46
    Détails du profil
    Informations forums :
    Inscription : juin 2005
    Messages : 46
    Points : 40
    Points
    40

    Par défaut

    L'oracle de la Silicon Valley Silly Valley pourrait peut-être d'abord s'intéresser à ce "petit" problème.

  11. #11
    Membre éprouvé Avatar de 10_GOTO_10
    Profil pro
    Inscrit en
    juillet 2004
    Messages
    820
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : juillet 2004
    Messages : 820
    Points : 1 230
    Points
    1 230

    Par défaut

    Et si on interdisait tout simplement de tuer ou de blesser pendant les guerres ? Ça éviterait le "risque fondamental pour l'existence de la civilisation humaine", non ?
    Sondages gratuits : Le troc d'opinions

  12. #12
    Membre du Club
    Inscrit en
    juin 2005
    Messages
    46
    Détails du profil
    Informations forums :
    Inscription : juin 2005
    Messages : 46
    Points : 40
    Points
    40

    Par défaut

    Il y a déjà la première loi (de bon sens *) de la robotique, formulée par Isaac Asimov:

    Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu'un être humain soit exposé au danger
    .

    Avant d'appliquer cette loi aux robots, "peut-être" pourrions nous commencer par l'appliquer à nous-même?

    Fais ce que je dis pas ce que je fais
    Fais ce que je dis pas ce que je fais
    Fais ce que je dis
    Si tu fais comme moi, tu es fou
    Tu es fou


    Ou l'espèce "humaine" est-elle elle-même désespérément et irrémédiablement buggée?

    * pas besoin de poly-tiques et bureauc-rats pour cela.

  13. #13
    Membre chevronné
    Inscrit en
    juin 2009
    Messages
    616
    Détails du profil
    Informations forums :
    Inscription : juin 2009
    Messages : 616
    Points : 1 775
    Points
    1 775

    Par défaut

    Citation Envoyé par _Alain_ Voir le message
    Il y a déjà la première loi (de bon sens *) de la robotique, formulée par Isaac Asimov:

    Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu'un être humain soit exposé au danger
    .
    On cites souvent les lois d'Asimov comme un standard à atteindre alors que le contenu même de ses romans est de montrer qu'elles ne fonctionnent pas.
    La conclusion étant que L'être Humain s'expose seul au danger, et que pour éviter ça, il faut supprimer le libre arbitre humain.

    Concernant les armes "automatiques" actuelles, il y a beaucoup de fanstasme dans ce que je lis. c'est interdit par les conventions de genèves le tir automatique. Aujourd'hui les systèmes repèrent, traquent, asservissent les canons sur les cibles, mais il y a bien un humain au bout qui dit "vas-y, tire". Et cette action là, de manière éthique, n'est pas encore supprimée. (du moins de ce que j'ai vu dans mes missions dans le domaine militaire).

  14. #14
    Membre à l'essai
    Homme Profil pro
    Technicien optique intrumentale et optronique
    Inscrit en
    avril 2015
    Messages
    16
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Technicien optique intrumentale et optronique
    Secteur : Industrie

    Informations forums :
    Inscription : avril 2015
    Messages : 16
    Points : 18
    Points
    18

    Par défaut

    Et dire que les armes électromagnétiques sont dans la catégorie des armes non-létales.... HéHéHééééééé
    (en plus de ne laisser quasiement aucune trace... HéHéHéééé)

Discussions similaires

  1. Réponses: 1
    Dernier message: 01/06/2015, 14h04
  2. Réponses: 6
    Dernier message: 13/09/2014, 21h47
  3. [Débutant] Récupérer les coordonnées d'un ensemble de pixels dans une matrice
    Par reda24 dans le forum Images
    Réponses: 5
    Dernier message: 01/06/2007, 19h06
  4. Réponses: 6
    Dernier message: 22/05/2007, 10h55
  5. Impossible de convertir les sauts de lignes \n en <br> dans une jsp.
    Par michaelcourcy dans le forum Servlets/JSP
    Réponses: 1
    Dernier message: 28/11/2006, 18h32

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo