IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Intelligence artificielle Discussion :

Que se passera-t-il si des robots tueurs sont piratés ou détournés ?


Sujet :

Intelligence artificielle

  1. #1
    Chroniqueur Actualités

    Homme Profil pro
    Dirigeant
    Inscrit en
    Juin 2016
    Messages
    3 160
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Bénin

    Informations professionnelles :
    Activité : Dirigeant
    Secteur : Aéronautique - Marine - Espace - Armement

    Informations forums :
    Inscription : Juin 2016
    Messages : 3 160
    Points : 66 249
    Points
    66 249
    Par défaut Que se passera-t-il si des robots tueurs sont piratés ou détournés ?
    Que se passera-t-il si des robots tueurs sont piratés ou détournés ?
    La question fait débat au sein de la communauté scientifique

    Dans une lettre ouverte co-signée par une multitude de spécialistes en IA, Elon Musk a appelé les Nations Unies à tout simplement interdire les robots tueurs. « Les armes autonomes létales menacent de devenir la troisième révolution dans la guerre. Une fois développées, elles vont propulser les conflits armés à une échelle plus grande que jamais, et à des échelles de temps plus rapides que les humains puissent comprendre. Celles-ci peuvent être des armes de terreur, des armes que les despotes et les terroristes utilisent contre des populations innocentes et des armes détournées pour se comporter de manière indésirable. Nous n'avons pas assez de temps pour agir. Une fois que cette boîte de Pandore est ouverte, il sera difficile de la fermer », avertissent-ils.

    Nom : Robots_tueurs_autonomes.jpg
Affichages : 7760
Taille : 39,4 Ko

    En effet, la menace que représentent les robots tueurs ou armes autonomes létales a été largement démontrée. Les intelligences artificielles sur lesquelles reposent les systèmes de ces robots sont tout sauf inviolables. Elles ont prouvé à maintes reprises qu’elles étaient faillibles. Par exemple, des scientifiques ont réussi à induire une IA en erreur en altérant quelques éléments d’une tortue imprimée en 3D. Le résultat en a été que l’IA a considéré la tortue comme étant un fusil.

    A l’argument de la faillibilité des IA, les défenseurs de la cause des robots tueurs répondent que l’apprentissage automatique est encore à ses débuts et qu’il suffisait de le laisser progresser afin de rendre les IA moins vulnérables. Toutefois, on est tenté de se demander quelle intelligence artificielle, quel système informatique connecté ne peut pas être piraté ou détourné ? Imaginez qu’un drone autonome se fasse pirater par un terroriste. Imaginez combien de personnes pourraient perdre la vie à cause de cette même technologie conçue pour empêcher au maximum les dommages collatéraux. Car, rappelons-le, l’idée des armes autonomes létales a germé dans le but d’empêcher les pertes en vies humaines résultant d’erreurs de jugement humaines. Imaginez qu’un pirate décide de prendre le contrôle, non pas d’un mais d’une flotte entière de drones. Imaginez les dégâts qu’il pourrait occasionner. Des gens mourraient par milliers et des pans entiers de villes seraient réduits en cendres.

    Cependant, la triste réalité est que les gouvernements semblent ne pas prendre ou ne pas vouloir prendre conscience. Le gouvernement américain, par exemple a déjà annoncé une subvention de 2 milliards de dollars visant à aider à la production de la prochaine vague d’intelligences artificielles avancées, l’objectif visé étant de concevoir des machines pouvant communiquer et raisonner comme des humains et pouvant s’adapter à tout nouvel environnement ou à toute nouvelle situation.

    Les avis des internautes sur la question sont tranchés. Ils expliquent que la conception de soldats robotiques pour remplacer ceux humains était une mauvaise idée. Ils ajoutent que la seule chose qui empêche les pays de se faire la guerre comme ils l’entendent, c’est le coût colossal en vies humaines que cela peut engendrer. Supprimer cette restriction équivaudrait à laisser libre cours à l’éventualité de nouveaux conflits et de nouvelles guerres. Et contrairement à ce que les dirigeants semblent penser, aucune guerre ne peut se faire sans que des gens ne meurent. Les sacrifices et les dommages collatéraux sont inhérents à toute guerre.

    Source : MarketWatch

    Et vous ?

    Qu’en pensez-vous ?
    Quelle est votre position sur les armes autonomes létales ?

    Voir aussi

    Des experts en IA boycottent un projet de robots tueurs d'une université en Corée du Sud en partenariat avec le fabricant d'armes Hanwha Systems

    Elon Musk appelle les Nations Unies à bannir les robots tueurs dans une lettre ouverte signée par 116 spécialistes de l'IA et la robotique

    Des représentants de 150 entreprises de la tech plaident contre les robots tueurs autonomes lors d'une conférence internationale sur l'IA
    Contribuez au club : corrections, suggestions, critiques, ... Contactez le service news et Rédigez des actualités

  2. #2
    Membre émérite Avatar de Cpt Anderson
    Profil pro
    Développeur informatique
    Inscrit en
    Novembre 2005
    Messages
    624
    Détails du profil
    Informations personnelles :
    Âge : 49
    Localisation : France, Rhône (Rhône Alpes)

    Informations professionnelles :
    Activité : Développeur informatique

    Informations forums :
    Inscription : Novembre 2005
    Messages : 624
    Points : 2 479
    Points
    2 479
    Par défaut
    J'ai toute confiance en nos gouvernements, nos institution supranationales et en la sagesse des gens.
    Voici la méthode de mon chef:

    copy (DateTimeToStr(Now),7,4)+
    copy (DateTimeToStr(Now),4,2)+copy (DateTimeToStr(Now),1,2)+copy (DateTimeToStr(Now),12,2)+
    copy (DateTimeToStr(Now),15,2)+copy (DateTimeToStr(Now),18,2)

    Je lui ai dit que FormatDateTime irait surement mieux


  3. #3
    Invité
    Invité(e)
    Par défaut
    Citation Envoyé par Bill Fassinou Voir le message
    Car, rappelons-le, l’idée des armes autonomes létales a germé dans le but d’empêcher les pertes en vies humaines résultant d’erreurs de jugement humaines.
    Une mauvaise arme létale, ça tue des gens d'après un mauvais jugement, alors qu'une bonne arme létale, ça tue des gens d'après un bon jugement...

  4. #4
    Membre régulier
    Inscrit en
    Juin 2004
    Messages
    75
    Détails du profil
    Informations forums :
    Inscription : Juin 2004
    Messages : 75
    Points : 100
    Points
    100

  5. #5
    Membre expérimenté
    Homme Profil pro
    Développeur informatique
    Inscrit en
    Juin 2004
    Messages
    374
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 34
    Localisation : Belgique

    Informations professionnelles :
    Activité : Développeur informatique
    Secteur : Enseignement

    Informations forums :
    Inscription : Juin 2004
    Messages : 374
    Points : 1 399
    Points
    1 399
    Par défaut
    Citation Envoyé par SimonDecoline Voir le message
    Une mauvaise arme létale, ça tue des gens d'après un mauvais jugement, alors qu'une bonne arme létale, ça tue des gens d'après un bon jugement...
    The only thing that can stop a bad gov with automated lethal weapons, is a good gov with automated lethal weapons.

  6. #6
    Expert éminent sénior
    Avatar de Jipété
    Profil pro
    Inscrit en
    Juillet 2006
    Messages
    10 699
    Détails du profil
    Informations personnelles :
    Localisation : France, Hérault (Languedoc Roussillon)

    Informations forums :
    Inscription : Juillet 2006
    Messages : 10 699
    Points : 15 042
    Points
    15 042
    Par défaut
    Citation Envoyé par SimonDecoline Voir le message
    Une mauvaise arme létale, ça tue des gens d'après un mauvais jugement, alors qu'une bonne arme létale, ça tue des gens d'après un bon jugement...
    Pourquoi "ça tue des gens" ? C'est pas fait pour ça, démonstration :

    Une nation A veut faire la guerre mais ne veut pas que ses fils meurent au combat, elle fabrique des machines qui vont aller au combat à leur place, pour flinguer ceux d'en face, les fils de la nation B. Et si certaines de ces machines sont détruites, c'est pas grave, c'est le but ; bien sûr, personne ne prend jamais en compte l'impact environnemental, mais ceci est une autre histoire.

    Mais la nation B ne voulant pas que ses fils meurent au combat, normal, elle fabrique elle aussi des machines qui vont aller au combat à leur place, et donc se faire flinguer par les robots de la nation A.
    Or, pendant que certains B se font flinguer, d'autres peuvent répliquer et flinguer des robots A, bref une vraie guerre de robots pendant que les fils de A et les fils de B restent calés à mater ça devant leurs téloches, "tiens, repasse-moi le popcorn", tout en tétant leurs bières.

    Et la nation à qui il reste des robots a gagné.

    Elle est pas belle la vie ? Bon, les fils des deux nations vont devenir encore un peu plus grassouillets et la planète complètement ravagée mais c'est le prix à payer, faut savoir ce qu'on veut, hein...
    Il a à vivre sa vie comme ça et il est mûr sur ce mur se creusant la tête : peutêtre qu'il peut être sûr, etc.
    Oui, je milite pour l'orthographe et le respect du trait d'union à l'impératif.
    Après avoir posté, relisez-vous ! Et en cas d'erreur ou d'oubli, il existe un bouton « Modifier », à utiliser sans modération
    On a des lois pour protéger les remboursements aux faiseurs d’argent. On n’en a pas pour empêcher un être humain de mourir de misère.
    Mes 2 cts,
    --
    jp

  7. #7
    Membre extrêmement actif
    Profil pro
    Développeur
    Inscrit en
    Mars 2012
    Messages
    1 969
    Détails du profil
    Informations personnelles :
    Localisation : Belgique

    Informations professionnelles :
    Activité : Développeur
    Secteur : Communication - Médias

    Informations forums :
    Inscription : Mars 2012
    Messages : 1 969
    Points : 3 375
    Points
    3 375
    Par défaut
    Sauf qu'à un moment, des fils de A vont prendre les armes pour se défendre et plusieurs fils de A seront tués.
    Donc des robots de B auront tué des humains.
    Alors peut-être que le boss de A va lancer sur les humains de B des bombes nucléaires pour tous les anéantir...
    Si la réponse vous a aidé, pensez à cliquer sur +1

  8. #8
    Expert éminent sénior
    Avatar de Jipété
    Profil pro
    Inscrit en
    Juillet 2006
    Messages
    10 699
    Détails du profil
    Informations personnelles :
    Localisation : France, Hérault (Languedoc Roussillon)

    Informations forums :
    Inscription : Juillet 2006
    Messages : 10 699
    Points : 15 042
    Points
    15 042
    Par défaut
    Citation Envoyé par hotcryx Voir le message
    Sauf qu'à un moment, des fils de A vont prendre les armes pour se défendre ...
    T'as rien compris : les fils de A ne sont pas attaqués puisqu'ils sont devant la téloche à mater le spectacle.
    Il a à vivre sa vie comme ça et il est mûr sur ce mur se creusant la tête : peutêtre qu'il peut être sûr, etc.
    Oui, je milite pour l'orthographe et le respect du trait d'union à l'impératif.
    Après avoir posté, relisez-vous ! Et en cas d'erreur ou d'oubli, il existe un bouton « Modifier », à utiliser sans modération
    On a des lois pour protéger les remboursements aux faiseurs d’argent. On n’en a pas pour empêcher un être humain de mourir de misère.
    Mes 2 cts,
    --
    jp

  9. #9
    Membre extrêmement actif
    Homme Profil pro
    Développeur Web
    Inscrit en
    Juillet 2010
    Messages
    403
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 40
    Localisation : France

    Informations professionnelles :
    Activité : Développeur Web
    Secteur : Communication - Médias

    Informations forums :
    Inscription : Juillet 2010
    Messages : 403
    Points : 1 417
    Points
    1 417
    Par défaut
    Vous avez une vue trop hollywoodienne de l'utilisation des robots.

    A qui les pays occidentaux vont vendre leurs merdes style McDonald's, Renault, Apple, Heineken, une Coupe du Monde ou des prêts bancaires si leur population se fait massacrer ?

    Jipété a raison à ceci prêt que les robots ne s'affronteront même pas.

  10. #10
    Expert éminent sénior
    Avatar de Jipété
    Profil pro
    Inscrit en
    Juillet 2006
    Messages
    10 699
    Détails du profil
    Informations personnelles :
    Localisation : France, Hérault (Languedoc Roussillon)

    Informations forums :
    Inscription : Juillet 2006
    Messages : 10 699
    Points : 15 042
    Points
    15 042
    Par défaut
    Citation Envoyé par sebastiano Voir le message
    Jipété a raison à ceci prêt que les robots ne s'affronteront même pas.
    Et pourquoi donc ?
    Ils vont rester là à glandouiller en se regardant dans le blanc des capteurs de vision ?
    Pas rentable, ça ! Il faut consommer de la cartouche et du robot (donc de la ferraille et plein d'électronique, excellent pour la croissance !)

    Sans compter que s'il n'y a pas de spectacle à la téloche, il n'y aura pas de coupures de pub, pas bon pas bon tout ça.
    Il a à vivre sa vie comme ça et il est mûr sur ce mur se creusant la tête : peutêtre qu'il peut être sûr, etc.
    Oui, je milite pour l'orthographe et le respect du trait d'union à l'impératif.
    Après avoir posté, relisez-vous ! Et en cas d'erreur ou d'oubli, il existe un bouton « Modifier », à utiliser sans modération
    On a des lois pour protéger les remboursements aux faiseurs d’argent. On n’en a pas pour empêcher un être humain de mourir de misère.
    Mes 2 cts,
    --
    jp

  11. #11
    Invité
    Invité(e)
    Par défaut
    Citation Envoyé par Jipété Voir le message
    Pourquoi "ça tue des gens" ?
    "Est létal ce qui peut provoquer la mort d'un organisme vivant (animal, végétal) ou le rend non viable à la naissance."
    https://fr.wikipedia.org/wiki/L%C3%A9tal

  12. #12
    Expert éminent sénior
    Avatar de Jipété
    Profil pro
    Inscrit en
    Juillet 2006
    Messages
    10 699
    Détails du profil
    Informations personnelles :
    Localisation : France, Hérault (Languedoc Roussillon)

    Informations forums :
    Inscription : Juillet 2006
    Messages : 10 699
    Points : 15 042
    Points
    15 042
    Par défaut
    Oui, d'accord, mais ça n'explique en rien le "Pourquoi" qui est à la base de la question...
    Il a à vivre sa vie comme ça et il est mûr sur ce mur se creusant la tête : peutêtre qu'il peut être sûr, etc.
    Oui, je milite pour l'orthographe et le respect du trait d'union à l'impératif.
    Après avoir posté, relisez-vous ! Et en cas d'erreur ou d'oubli, il existe un bouton « Modifier », à utiliser sans modération
    On a des lois pour protéger les remboursements aux faiseurs d’argent. On n’en a pas pour empêcher un être humain de mourir de misère.
    Mes 2 cts,
    --
    jp

  13. #13
    Membre extrêmement actif
    Homme Profil pro
    Développeur Web
    Inscrit en
    Juillet 2010
    Messages
    403
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 40
    Localisation : France

    Informations professionnelles :
    Activité : Développeur Web
    Secteur : Communication - Médias

    Informations forums :
    Inscription : Juillet 2010
    Messages : 403
    Points : 1 417
    Points
    1 417
    Par défaut
    Citation Envoyé par Jipété Voir le message
    Et pourquoi donc ?
    Ils vont rester là à glandouiller en se regardant dans le blanc des capteurs de vision ?
    Pas rentable, ça ! Il faut consommer de la cartouche et du robot (donc de la ferraille et plein d'électronique, excellent pour la croissance !)

    Sans compter que s'il n'y a pas de spectacle à la téloche, il n'y aura pas de coupures de pub, pas bon pas bon tout ça.
    L'entretien est très rentable. A titre d'exemple et à l'exception des Etats-Unis, personne n'a utilisé l'arme nucléaire. Son entretien, pour les forces françaises, coûte dans les 4 milliards d'Euros (en sachant qu'il s'agit d'une technologie maîtrisée depuis des décennies).

    Entretenir une armée de robots neuve, prête au combat, suffira à combler les attentes des financiers les plus voraces.

  14. #14
    Expert éminent sénior
    Avatar de Jipété
    Profil pro
    Inscrit en
    Juillet 2006
    Messages
    10 699
    Détails du profil
    Informations personnelles :
    Localisation : France, Hérault (Languedoc Roussillon)

    Informations forums :
    Inscription : Juillet 2006
    Messages : 10 699
    Points : 15 042
    Points
    15 042
    Par défaut
    Citation Envoyé par sebastiano Voir le message
    Entretenir une armée de robots neuve, prête au combat, suffira à combler les attentes des financiers les plus voraces.
    Oui, mais pas la populace vautrée dans le canap' à faire des commentaires.
    Souviens-toi des combats de gladiateurs dans les amphithéâtres romains : rien de nouveau sous le soleil.
    Citation Envoyé par Jipété Voir le message
    Sans compter que s'il n'y a pas de spectacle à la téloche, il n'y aura pas de coupures de pub, pas bon pas bon tout ça.
    Il a à vivre sa vie comme ça et il est mûr sur ce mur se creusant la tête : peutêtre qu'il peut être sûr, etc.
    Oui, je milite pour l'orthographe et le respect du trait d'union à l'impératif.
    Après avoir posté, relisez-vous ! Et en cas d'erreur ou d'oubli, il existe un bouton « Modifier », à utiliser sans modération
    On a des lois pour protéger les remboursements aux faiseurs d’argent. On n’en a pas pour empêcher un être humain de mourir de misère.
    Mes 2 cts,
    --
    jp

  15. #15
    Membre extrêmement actif
    Avatar de Madmac
    Homme Profil pro
    Ingénieur développement logiciels
    Inscrit en
    Juin 2004
    Messages
    1 685
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Canada

    Informations professionnelles :
    Activité : Ingénieur développement logiciels
    Secteur : Alimentation

    Informations forums :
    Inscription : Juin 2004
    Messages : 1 685
    Points : 1 376
    Points
    1 376
    Billets dans le blog
    7
    Par défaut
    Citation Envoyé par Jipété Voir le message
    Pourquoi "ça tue des gens" ? C'est pas fait pour ça, démonstration :

    Une nation A veut faire la guerre mais ne veut pas que ses fils meurent au combat, elle fabrique des machines qui vont aller au combat à leur place, pour flinguer ceux d'en face, les fils de la nation B. Et si certaines de ces machines sont détruites, c'est pas grave, c'est le but ; bien sûr, personne ne prend jamais en compte l'impact environnemental, mais ceci est une autre histoire.

    Mais la nation B ne voulant pas que ses fils meurent au combat, normal, elle fabrique elle aussi des machines qui vont aller au combat à leur place, et donc se faire flinguer par les robots de la nation A.
    Or, pendant que certains B se font flinguer, d'autres peuvent répliquer et flinguer des robots A, bref une vraie guerre de robots pendant que les fils de A et les fils de B restent calés à mater ça devant leurs téloches, "tiens, repasse-moi le popcorn", tout en tétant leurs bières.

    Et la nation à qui il reste des robots a gagné.

    Elle est pas belle la vie ? Bon, les fils des deux nations vont devenir encore un peu plus grassouillets et la planète complètement ravagée mais c'est le prix à payer, faut savoir ce qu'on veut, hein...
    Cela suppose que la guerre a éclaté. Parce que dans un monde pareil, les conflits deviennent des matchs de Risk. Quand les conflits dégénèrent en guerre ouverte, c'est parce que la dissuasion a faillie. Donc en bout de ligne le problème se résumera au nombre de robots.

  16. #16
    Membre averti
    Homme Profil pro
    Consultant informatique
    Inscrit en
    Février 2018
    Messages
    80
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Côte d'Or (Bourgogne)

    Informations professionnelles :
    Activité : Consultant informatique

    Informations forums :
    Inscription : Février 2018
    Messages : 80
    Points : 422
    Points
    422
    Par défaut
    Comme d'hab : il ne faut pas le faire mais nos chers dirigeants dictateurs vont le faire quand même car il y a masse de thunes à se faire + le pouvoir absolu. Et si cela ne passe pas vers l'opinion public ce sera comme d'habitude : on prend une tragédie (provoquée si nécessaire) et on explique que les robots tueurs sont LA solution pour que cela ne se reproduise pas.

    Cela va aussi changer le rapport de force encore un peu plus entre une population (99%) qui voudrait potentiellement de rebeller contre un gouvernement autoritaire (1%) : jusqu'à maintenant vu que la population était beaucoup plus nombreuse (99%) qu'un gouvernement (1%), il était possible de se rebeller. Mais avec des robots tueurs cela ne sera plus une question de nombre mais d'argent... Une petite minorité pourra tenir tête à une grande majorité à condition d'avoir beaucoup d'argent. En plus des policiers, des militaires cela restent des humains capables de discernement et de se retourner le cas échéant contre un gouvernement devenant autoritaire. Mais pas des robots...

Discussions similaires

  1. Réponses: 7
    Dernier message: 09/11/2017, 22h23
  2. Que se passe t-il lorsque des pirates perdent à un jeu dans lequel ils se font pirater ?
    Par LittleWhite dans le forum Développement 2D, 3D et Jeux
    Réponses: 33
    Dernier message: 02/02/2015, 22h24
  3. Que pensez-vous de SAP et des ERP ?
    Par cortex024 dans le forum SAP
    Réponses: 42
    Dernier message: 19/03/2011, 15h33
  4. Que peut on utiliser à la place des popup
    Par david42 dans le forum Général JavaScript
    Réponses: 6
    Dernier message: 14/02/2006, 09h21
  5. Réponses: 9
    Dernier message: 19/10/2005, 05h35

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo