Discussion :

[Sunchaser]

Moi, je me demande si ces machines se mettraient a violer, torturer, crucifier, bruler vif, écarteler, lapider, éventrer, etc, etc, etc, etc ...
Bref.
Il y a un monstre ici, et c'est nous. Faut pas l'oublier. Les vieux romans de fictions, avec leur "loi a la con" censé régir les "nonos-les-petits-robots", ben .. c'est des romans. Rien de plus.
(désolé pour les fans d'Asimov)
Surtout n'oubliez pas que l'horreur n'est qu'a un pas de nous, et qu'en chacun de nous sommeille un truc qui est capable de tuer son prochain.
Pas besoin de machines pour ca.
Hawking et les autres, ils ont intérêts a prendre une grande inspiration et a crier bien fort et longtemps alors, parce qu'ils sont pas prêt d'être entendus a mon avis.
Si c'est "rentable", alors ces choses seront faites.
Point.
Et elles serviront.
Quoi qu'on fasse, les armées modernes ne sauront résister a la possibilité d'envoyer des troupes au sol si elles n'ont plus besoin d'être constituées que d'humains. Même si ce ne sont que des "supports", ils préféreront toujours perdre une machine sur une mine plutôt que de se retrouver avec un soldat "d'élite" (qu'il a fallu former, etc) avec 2 jambes et 1 bras en moins ... un homme tronc, ca tire pas droit, et ca coûte cher.
A priori la Russie bosserait sur un "super-char" (Armata T4 ou je-ne-sais-quoi), qui préfigurerais un monstre du futur, éfficace, automatisé, etc.
Ca fait peur, et j'ai a craindre qu'ils se foutent bien eux aussi de Hawking et autres ...

M'enfin, d'ici qu'un truc évolué sorte, c'est pas demain la veille a mon sens, et d'ici la d'autres défis se seront déjà pointés (le climat, la pollution, la gestion de l'eau (potable, tant que possible), etc ..). Avec "un peu de chances", on sera déjà peut être moins nombreux pour se foutre sur la gueule.

[Lcf.vs]

La question n'est pas vraiment de savoir si l'IA va finir par poser problème...

... mais plutôt de savoir quand et comment elle le fera, car elle le fera tôt ou tard, que ce soit sur le plan de l'armement ou tout autre plan.

La nature humaine est ainsi faite, on cherche toujours à repousser les limites de tout ce que l'on touche, le nucléaire, l'antimatière, l'exploration spatiale, la médecine, l'exploitation des ressources naturelles, ...

On pousse, on pousse, jusqu'à ce qu'il soit trop tard pour s'arrêter avant qu'un malheur se produise.

La seule différence avec l'IA, c'est qu'en plus de risquer d'en perdre le contrôle, elle finisse par nous surpasser et inverser ce contrôle.

[Algo D.DN]

même les couteaux de cuisine? qui est quand même l'objet solution à "comment faire les sushis"...

Bien au Japon j'ai eu l'occasion de manger du poisson cru dans un resto traditionnel, et à voir le samouraï manipuler son wakizashi façon ninja bien énervé je me suis dit la vache! pourvu qu'il ne soit pas borderline et qu'il ne lui prenne l'envie de faire du shashimi avec autre chose que du poisson. ^^

[ddoumeche]

Les 10 commandements ne sont pas appliqués par les états, ils ne vont donc pas appliquer celles d'Asimov dont ils n'ont cure.

[Traroth2]

Moi, je me demande si ces machines se mettraient a violer, torturer, crucifier, bruler vif, écarteler, lapider, éventrer, etc, etc, etc, etc ...
Bref.
Il y a un monstre ici, et c'est nous. Faut pas l'oublier. Les vieux romans de fictions, avec leur "loi a la con" censé régir les "nonos-les-petits-robots", ben .. c'est des romans. Rien de plus.
(désolé pour les fans d'Asimov)
Surtout n'oubliez pas que l'horreur n'est qu'a un pas de nous, et qu'en chacun de nous sommeille un truc qui est capable de tuer son prochain.
Pas besoin de machines pour ca.
Hawking et les autres, ils ont intérêts a prendre une grande inspiration et a crier bien fort et longtemps alors, parce qu'ils sont pas prêt d'être entendus a mon avis.
Si c'est "rentable", alors ces choses seront faites.
Point.
Et elles serviront.
Quoi qu'on fasse, les armées modernes ne sauront résister a la possibilité d'envoyer des troupes au sol si elles n'ont plus besoin d'être constituées que d'humains. Même si ce ne sont que des "supports", ils préféreront toujours perdre une machine sur une mine plutôt que de se retrouver avec un soldat "d'élite" (qu'il a fallu former, etc) avec 2 jambes et 1 bras en moins ... un homme tronc, ca tire pas droit, et ca coûte cher.
A priori la Russie bosserait sur un "super-char" (Armata T4 ou je-ne-sais-quoi), qui préfigurerais un monstre du futur, éfficace, automatisé, etc.
Ca fait peur, et j'ai a craindre qu'ils se foutent bien eux aussi de Hawking et autres ...

M'enfin, d'ici qu'un truc évolué sorte, c'est pas demain la veille a mon sens, et d'ici la d'autres défis se seront déjà pointés (le climat, la pollution, la gestion de l'eau (potable, tant que possible), etc ..). Avec "un peu de chances", on sera déjà peut être moins nombreux pour se foutre sur la gueule.

Mais ce qui empêche le succès d'une initiative comme celle de ces intellectuels et scientifiques, c'est justement cette résignation ! C'est typiquement une prophétie auto-réalisatrice.

Si cette initiative n'avait qu'un seul mérite, ça serait déjà d'attirer l'attention de la population sur ce problème qui nous arrive dessus.

[Traroth2]

Je suis pour l'interdiction de tout objet solution pouvant nuire.

Personnellement, je suis pour l'interdiction de tout objet dont le seul but est de nuire. Un couteau de cuisine sert d'abord à faire la cuisine, pas à poignarder quelqu'un. Pareil pour une fourchette ou un journal roulé. Alors que le seul usage qu'on peut faire d'un fusil d'assaut, c'est de tuer ou de blesser des gens. C'est un fusil optimisé pour ça et qui fait même un mauvais fusil de chasse, par exemple.

[Sunchaser]

Personnellement, je suis pour l'interdiction de tout objet dont le seul but est de nuire. Un couteau de cuisine sert d'abord à faire la cuisine, pas à poignarder quelqu'un. Pareil pour une fourchette ou un journal roulé. Alors que le seul usage qu'on peut faire d'un fusil d'assaut, c'est de tuer ou de blesser des gens. C'est un fusil optimisé pour ça et qui fait même un mauvais fusil de chasse, par exemple.

C'est marrant cette histoire du couteau ... perso, je suis fan de couteaux. Difficile de dire pourquoi.
Quand je le tiens dans ma main, il m'arrive souvent de songer au fait que c'est l'aboutissement de milliers d'années, depuis quelques bouts de pierres taillées jusqu'a maintenant.
Quel formidable invention !
Quel génie ils avaient a cette époque, et quelle maitrise de gestes, pour arriver a sortir d'un bout de pierre un objet qui sera outil, qui aidera dans la survie de tous les jours. Et quelle capacité d'abstraction aussi, parce qu'il n'y avait "rien" a l'époque.
Fallait tout faire de A a Z, de la conception a la réalisation.
Le pire, ou le mieux, c'est qu'il semble même que ces humains de l'époque ne passaient pas leur temps a se foutre sur la gueule.
Alors qu'aujourd'hui, le moindre objet est une arme par destination dans la main d'un être humain.
Tout est bon pour détruire l'autre.
Qu'est ce qui a bien pu se passer ... je me demande. Mais ca a mal tourné.

On peut interdire tout ce qu'on veut, et n'autoriser que des petites cuillères dans le vaissellier des ménages, si on ne change pas la cervelle d'Homo Sapiens - ou du moins, le truc qui bug - ca ne changera pas beaucoup. Ils s'étriperont a la main.
Je suis pas gai, c'est clair.
M'enfin, je dis pas que c'est bien, hein, ok ? ... Encore que ...puisqu'il faut vraiment la guerre, semble-t-il, puisqu'il faut vraiment s'entretuer, je me demande alors si qq machines qui feraient un travail propre et précis ne seraient pas mieux que les légions d'assassins qui sillonnent le monde de par et d'autres et qui commettent toutes sortes d'atrocités (j'ai déjà cité, je ne recommence pas) en plus de leur taf (tuer des gens). C'est pas joli, mais je finirais presque au moins par me poser la question.
(et je pense qu'elle mérite d'être posée tout de même)

Sinon, pour reprendre la petite discussion facon "SF": je ne vois pas vraiment des machines complètement automatisées.
Plutôt soit des trucs de type "drone", avec donc une supervision humaine a distance, soit des "hommes augmentés"; des "super soldats", augmentés avec tout ce que la technique pourra apporter. Des sortes de "Prédator", avec la sale gueule en moins (parce que, bon, il était vraiment pas beau le Prédator, non ?)

[Algo D.DN]

Personnellement, je suis pour l'interdiction de tout objet dont le seul but est de nuire. Un couteau de cuisine sert d'abord à faire la cuisine, pas à poignarder quelqu'un. Pareil pour une fourchette ou un journal roulé. Alors que le seul usage qu'on peut faire d'un fusil d'assaut, c'est de tuer ou de blesser des gens. C'est un fusil optimisé pour ça et qui fait même un mauvais fusil de chasse, par exemple.

D'ailleurs dans le jargon militaire on ne dit pas armes de mort, armes spécialement optimisées pour tuer, mais armes de défense, servant à neutraliser, tout comme le poignard de 25 cm qui fait partie du package militaire est considéré comme une arme de survie (et + si affinités rapprochées), jargon bien plus acceptable.

Ce que j'entends par là c'est que l'objet tel quel n'est qu'un instrument, que ce soit une fourchette ou une IA à forme humanoïde, sa capacité de nuisance n'est que dans l'intention de celui qui l'instrumentalise... Le petit Nao sera comme une batterie de cuisine, normalement inoffensif, certainement serviable, mais intentionnellement détourné de son programme pour un tout autre usage, DIY... Nao va calmer le bruyant voisin du dessus qui fait péter les décibels sur du Motörhead à 3h du mat! root>sudo...

Allez je vais me frapper un bon smothy glacé moi, enfin si mon robot-mixeur veut bien fonctionner sans disrupter ;[)