Discussion :

[Michael Guilloux]

Trolldi : cinq dangers émanant de l’utilisation de l’intelligence artificielle et la robotique

En dépit des bénéfices que l'on pourrait tirer du progrès de l'intelligence artificielle et de la robotique, ces deux domaines qui sont parfois associés constituent également une menace pour l'humanité s'ils ne sont pas correctement maîtrisés. Ce n'est toutefois pas eux-mêmes le problème, mais leur utilisation par l'Homme.

En ce qui concerne l'IA par exemple, plusieurs grands noms se sont déjà montrés pessimistes. C'est le cas notamment d'Elon Musk, le célèbre physicien Stephen Hawking, mais également Bill Gates. « Je suis d’accord avec Elon Musk et d’autres », avait déclaré Bill Gates dans une session de questions et réponses sur Reddit en 2015. « Je ne comprends pas pourquoi les gens ne sont pas inquiets », avait-il ajouté. Mais pourquoi les gens devraient-ils être inquiets ? Les raisons sont nombreuses, mais tournent autour d'un noyau qu'on peut lister de manière plus ou moins exhaustive.

Les robots et IA voleurs d’emplois. L’impact des progrès dans la robotique et l’intelligence artificielle est plus visible au niveau social. Comme nous l’avons rapporté à de nombreuses occasions, de plus en plus d’emplois autrefois réservés aux humains sont en train de passer entre les mains de robots. De l’automatisation des emplois dans les usines et entrepôts chinois à la livraison de colis par drone ou robot au sol, la liste est bien longue. L’intelligence artificielle menace également les emplois qualifiés dans divers secteurs tels que la presse en ligne, la banque et la finance.

Les robots tueurs ou robots militaires. Ces robots existent déjà, mais le progrès de l’IA et dans la robotique va contribuer à les doter de capacités exceptionnelles et les rendre plus autonomes. L’utilisation de ce genre de robots est donc susceptible de prendre de l’ampleur dans les années à venir. L’an dernier par exemple, la police de Dallas a utilisé un robot tueur pour éliminer un criminel ; une opération qui a fait l’objet de vives critiques et suscité davantage de craintes quant aux usages dangereux des robots. Avec les progrès technologiques, on peut toutefois s’attendre, dans un futur plus ou moins proche, à une production en masse de ces machines à tuer.

Les robots sexuels ou sexbots. C’est plus une question d’éthique comme bien d’autres qui se rapportent à la nature de l’homme. Si certains n’y voient aucun problème, pour d’autres, les robots sexuels sont simplement une perversion qui menace la race humaine. D’après une étude débattue récemment, 40 % des hommes seraient prêts à s’acheter une partenaire sexuelle robotique pour satisfaire leurs désirs. Comment certains l’ont souligné, comment l’humanité se renouvellera-t-elle si les hommes doivent se tourner vers les sexbots ?

Les dérives de la reconnaissance d’image et faciale. L’IA a accéléré le développement des technologies de reconnaissance d’image et de reconnaissance faciale. Comme résultat, cela a permis de créer des produits innovants qui, en même temps, créent de sérieux problèmes de confidentialité. L’an dernier, une start-up russe a fait parler d’elle grâce à une application de reconnaissance faciale capable d’identifier n’importe quel passant dans les rues, en prenant juste une photo de lui. Il faut noter que l’application est couplée aux bases de données des réseaux sociaux, ce qui permet donc d’identifier des personnes qui se sont affichées sur les réseaux sociaux.

Le numéro un des réseaux sociaux, Facebook, a lui-même une technologie de reconnaissance faciale sophistiquée qu’il utilise pour faire correspondre automatiquement des images avec des noms. La société a d’ailleurs été attaquée en justice en décembre dernier, à cause de cette technologie, qui serait en violation de la vie privée des utilisateurs. Le FBI a pour sa part une immense base de données de reconnaissance faciale qui préoccupe les représentants US. Ils craignent en effet que la technologie de reconnaissance faciale soit utilisée par de mauvais acteurs pour harceler ou traquer des individus. Ils pensent qu’elle peut également être utilisée pour limiter la liberté d'expression et de libre association en ciblant les personnes assistant à certaines réunions politiques, à des manifestations, dans des églises ou d'autres types de lieux publics.

Les risques de sécurité. Alors que la production de robots est en hausse au niveau mondial, il y a des risques de sécurité non négligeables qui peuvent découler de leur cohabitation avec les humains. Si en principe, les comportements des robots sont anticipés par leurs créateurs, les dysfonctionnements ne sont pas impossibles. Quelles sont les conséquences possibles d'une défaillance du système ou du piratage de robots connectés ? Leur comportement devient également moins prévisible, s’il s’agit de robots très intelligents dotés d’une plus grande autonomie. Comme l’avait souligné Bill Gates, « dans un premier temps, les machines accompliront de nombreuses tâches à notre place et ne seront pas super-intelligentes. Cela devrait être positif si nous gérons bien cela. Plusieurs décennies plus tard cependant, l'intelligence sera suffisamment puissante pour poser des problèmes. » L’Homme pourra perdre le contrôle des machines qu’il a créées.

Et vous ?

Quels sont les plus grands dangers de l’IA et la robotique ?

[Tartare2240]

Exterminate ! Exterminate !!!

[Thorna]

S'il est vraiment question d'intelligence artificielle, du genre qui apprend par la pratique et qui prend les bonnes décisions avec l'expérience, qui sait écouter et peser, on oublie ici le robot président : au-dessus des partis; indépendant des pressions, du populisme, des événements soudains, etc; avec une vue à long terme des intérêts de la population...

[Ryu2000]

Quels sont les plus grands dangers de l’IA et la robotique ?

Les drones militaires sont pas mal dangereux, ils volent, ils filment, ils peuvent être autonome et porter une arme.

Sinon il y a le trading à haute fréquence qui utilise des algorithmes et de l’intelligence artificielle, en cas d'erreur ça peut rapidement devenir n'importe et avoir des répercussions économique grave.

[BufferBob]

Quels sont les plus grands dangers de l’IA et la robotique ?

<trolldi>on est pas à l'abri qu'elles nous facilitent la vie, voire qu'elles finissent carrément par nous rendre moins cons
restons vigilants...</trolldi>

[Tartare2240]

<trolldi>on est pas à l'abri qu'elles nous facilitent la vie, voire qu'elles finissent carrément par nous rendre moins cons
restons vigilants...</trolldi>

Aucune chance ! Après tout, c'est l'homme qui code ces IA !

[sakama]

pardon mais il y a des gens qui craigne les sexbot ? mdr
a plus 7 milliards on va pas s'éteindre parce que les homme préféreront les robots !
j'en rit encore !

[NSKis]

pardon mais il y a des gens qui craigne les sexbot ? mdr
a plus 7 milliards on va pas s'éteindre parce que les homme préféreront les robots !
j'en rit encore !

Et ben, tu devrais pas en rire!!! Parce que effectivement, il existe une réelle menace d'extinction de l'être humain sur cette bonne vieille Terre... Le sexbot, c'est anectodique! Les gars en manque d'imagination te parleront de guerre et autres risque d'holocauste nucléaire, mais il y a encore mieux!

C'est beaucoup plus discret et c'est beaucoup plus radical: La baisse générale de la qualité du sperme chez l'être humain. En 2012, une étude indiquait que la concentration du sperme des hommes de 35 ans a diminué de 32,2 % entre 1989 et 2005, soit de près de 2 % par an. Durant cette période de 17 ans, le nombre de spermatozoïdes est passé de 73,6 millions/ml de sperme à 49,9 millions/ml en moyenne. Parallèlement, la proportion de spermatozoïdes normaux a chuté de 33,4 %. La cause en serait notre environnement saturé de produits chimiques.

C'était la minute "je suis hors sujet mais il n'y a pas de raison de laisser certains dans l'ignorance"

[BufferBob]

il existe une réelle menace d'extinction de l'être humain sur cette bonne vieille Terre... (...) La baisse générale de la qualité du sperme

hum.. bon, ok c'est effectivement pas le sujet initial, je me contenterai de ce graphique qui donnera peut-être matière à envisager les choses sous un angle différent :

image: cairn.info

edit: à la limite si on veut se rapprocher du sujet de départ on pourrait effectuer une régression polynomiale sur le dataset de la population mondiale pour voir où ça nous emmènerait si on continuait à ce rythme

[Deck0]

Que l'IA atteigne son point de singularité, s'émancipe de l'homme et rentre en compétition pour les ressources de la Terre...

[jean12]

Une évidence pour moi, les robots tueurs ou robots militaires sont les plus dangereux aux mains de particuliers.
Déjà que nous avons des fusillades ça et là d'après les news, et le terrorisme, etc. Imaginer un peu ...

[deathman8683]

Pour maintenir un écosystème toute espèce doit avoir un régulateur, l'humain n'en a plus, si ce n'est lui-même mais ça ne suffit pas, alors il se le crée, rien de plus naturel

Pas besoin d'IA pour rendre l'humanité stérile d'ailleurs, elle prépare très bien le terrain elle-même, le problème c'est qu'elle emportera la planète avec son déclin

Ne pas mélanger robot et IA au faite, un robot n'est qu'un appareil qui fait nos tâches à notre place, il n'est pas forcement animé d'intelligence artificielle (j'avoue qu'on peut donner plusieurs sens pour IA). Et ça fait longtemps qu'on a des robots tueurs, combien sont morts à cause d'une tondeuse à gazon mal réglée, d'un aspirateur mal isolé, d'un bloc de clim mal fixé ?

Sans conscience, les conséquences de l'action d'un robot sont de la responsabilité du propriétaire (sauf pour les voitures à pilote automatique où le constructeur est responsable).
Avant de pouvoir définir à quelle moment une intelligence artificielle donne une conscience il faudrait déjà commencer par définir ce qu'est la vie et la question n'est toujours pas tranchée.

L'homme a la capacité de créer des choses qui créer des choses etc. Ce qui est dit c'est qu'avec ce cheminement à un moment donné l'IA pourrait bien dépasser l'intelligence de l'humain : elle pourrait être capable de se rendre compte qu'en détruisant la planète elle détruit l'endroit où elle vit.

Pour les crises financières pas besoin d'IA non plus.

Un robot président, je vote pour, tant que l'IA ne permet pas au robot d'être cupide ^^

[olibiobus]

Le plus grand danger des robots comme de toute automatisation est notre abêtissement et notre dépendance à ces machines plus ou moins intelligentes; En effet, même si, grâce à la mécanisation et à l'automatisation et à la numérisation on augmente énormément les possibilités de calculs, de communication et d'échanges, de rapidité d'actions, ces mêmes outils (car même un robot n'est qu'un outil, en principe à notre service) nous rendent très dépendants et même asservis.
Exemples:
Qui sait encore faire des calculs complexes à la main ?
Combien de fois ne sommes nous pas passifs et en attente d'une machine/robot ?

Enfin, un autre inconvénient majeur des robots de toutes sortes est qu'ils sont énergivores.
Or l'énergie sous forme d'utilisation d'hydrocarbures ou de matières fissiles est extrêmement néfaste pour l'environnement et la survie dans de bonnes conditions de nos descendants.

Comme en toutes choses, l'excès nuit et la mode du robot est un excès très grave.

Faire marcher nos méninges et nos muscles est absolument nécessaire à notre bonne santé.

[BufferBob]

Qui sait encore faire des calculs complexes à la main ?

tout à fait, mais qui s'en soucie franchement ? ou pour le formuler différemment; en face de cet inconvénient il faut aussi mettre ce que ça a permis, les gains, et observer de quel côté penche la balance, on ne peut pas tout avoir et l'Homme est très réfractaire au changement, par les temps qui courent on dirait "ultra-conservateur" ?

Combien de fois ne sommes nous pas passifs et en attente d'une machine/robot ?

c'est très vrai ! mais là encore pour être tout à fait honnête il faut noter que ce n'est pas la faute de la machine, c'est celle de l'Homme qui reste passif et ne s'adapte pas... n'a pas le temps de s'adapter ? well, ça nous emmènerait alors sur le fait que la science évolue trop vite par rapport à l'Homme ? et pour quelle raison ? celle du profit ? oops... le problème est donc ailleurs, m'est avis

Enfin, un autre inconvénient majeur des robots de toutes sortes est qu'ils sont énergivores.
Or l'énergie sous forme d'utilisation d'hydrocarbures ou de matières fissiles est extrêmement néfaste pour l'environnement et la survie dans de bonnes conditions de nos descendants.

pour rappel c'est très récent, Google serait en mesure de faire 40% d'économie d'énergie grâce aux optimisations proposées par son IA DeepMind, et quelque chose me dit que ce n'est que le début de ce genre d'annonces fracassantes, finalement tout dépend peut-être la façon dont on s'en sert...

Faire marcher nos méninges et nos muscles est absolument nécessaire à notre bonne santé.

100% d'accord, mais la *rentabilité* de l'humain en bonne santé a ses limites, qu'on essaye de dépasser, pour... devinez quoi ? et ça n'est pas prêt de changer, blondasse, mémé ou le jeune loup, aucun n'est en mesure de changer ça, personne.

Un robot président, je vote pour, tant que l'IA ne permet pas au robot d'être cupide ^^

hihi je l'aime bien celle-là, tant qu'à vouloir du changement pourquoi pas, non ?

[deathman8683]

[...]ces mêmes outils (car même un robot n'est qu'un outil, en principe à notre service) nous rendent très dépendants et même asservis.[...]

Dépendance et asservissement doivent être bien distingués : la dépendance c'est le besoin des autres pour survivre et l'asservissement c'est l'abus de certains sur d'autres pour contrôler, nous n'avons pas besoin d'être dépendant pour être asservis, il suffit qu'en face la persuasion, la ruse ou la force soit plus forts et dans les mains de mauvaises personnes.
Actuellement ce sont les industriels qui cherchent à nous contrôler à travers leur produits (dont des robots et les médias) et non les robots eux-même, ils ne pourront le faire que lorsqu'ils auront une conscience, on ne sait pas encore si ça peut arriver je crois.

Il faut être nombriliste (je ne te vise pas en particulier) pour penser que des robots conscients nous voudraient plus de mal que l'humain envers lui-même. Si un robot peut avoir conscience de lui-même et des autres il peut aussi perdre sa logique implacable et devenir (plus humain), plus créatif, plus enclin au hasard, moins aveuglé par la réussite de sa tâche, etc. Je met "plus humain" entre parenthèse car il pourrait bien nous être plus bénéfique que nous-même envers nous-même.
Mettons nous à sa place : avec une conscience () serions nous capables de détruire volontairement des espèces ou "races" entières pour s'assurer la suprématie de la nôtre ? Bon... il y a des exceptions chez les humains, il pourrait y en avoir chez des robots conscients mais en quoi ça serai différent de maintenant ? Il faut rester vigilant mais ne pas pour autant rejeter en bloc l'évolution de l'espèce humaine, ce qui serai contre-productif.

Enfin, un autre inconvénient majeur des robots de toutes sortes est qu'ils sont énergivores.
Or l'énergie sous forme d'utilisation d'hydrocarbures ou de matières fissiles est extrêmement néfaste pour l'environnement et la survie dans de bonnes conditions de nos descendants.

Le corps humain n'est t-il pas énergivore ? Ça serai intéressant d'imiter la nature en élaborant un système/organisme qui s'alimente simplement en digérant et en respirant avant de penser à son cerveau ça serai plus écolo mais c'est moins vendeur *regarde en direction de Google*. D'ailleurs il y a peut-être des recherches la-dessus ailleurs ?

Faire marcher nos méninges et nos muscles est absolument nécessaire à notre bonne santé.

La nature est bien faite on s'adaptera (ou on mourra ^^') mais c'est toujours elle qui gagnera.

tout à fait, mais qui s'en soucie franchement ? ou pour le formuler différemment; en face de cet inconvénient il faut aussi mettre ce que ça a permis, les gains, et observer de quel côté penche la balance, on ne peut pas tout avoir et l'Homme est très réfractaire au changement, par les temps qui courent on dirait "ultra-conservateur" ?

Ce qui est ironique car en plus d'être réfractaire au changement on développe la technologie plus vite qu'on ne peut la suivre. C'est aussi le signe du déséquilibre des classes.

pour rappel c'est très récent, Google serait en mesure de faire 40% d'économie d'énergie grâce aux optimisations proposées par son IA DeepMind, et quelque chose me dit que ce n'est que le début de ce genre d'annonces fracassantes, finalement tout dépend peut-être la façon dont on s'en sert...

"serait en mesure" sacré Google et sa propagande... ^^
Ça fait longtemps qu'il nous a habitué aux annonces (promesses) fracassantes, mais concrètement je lit plus de news disant : "serait" que "est" chez Google.

[BufferBob]

"serait en mesure" sacré Google et sa propagande... ^^

non ben je travaille pas chez Google, et l'article dans lequel je l'ai lu étant en anglais le conditionnel est de moi en fait ^^

Ça fait longtemps qu'il nous a habitué aux annonces (promesses) fracassantes, mais concrètement je lit plus de news disant : "serait" que "est" chez Google.

soit, concrètement Google a dores et déjà fait 15% d'économies d'énergie, on pourrait rajouter "seulement" si on voulait, mais "on" est trop honnête intellectuellement pour se laisser aller à ça ;p
par ailleurs je suis tout disposé à mettre en vis-à-vis encore une fois des initiatives bien meilleures tant au niveau écologique qu'éthique, en attendant de les trouver je vais quand même dire bravo Google, je m'en voudrais d'être négatif pour des choses qui vont quand même dans le bon sens

[deathman8683]

Je ne disais pas que tu travailles chez Google, je constatais simplement qu'il (Google) promet toujours beaucoup de chose, la promesse est l'outil du marketing plus que de celui de la vérité généralement. Je n'ai pas confondu "Google et sa propagande" avec ta personne (ton message peut tout à fait être objectif et il l'est probablement).

Une entreprise qui fait des économies en réduisant les dépenses c'est bien mais si c'est dans le but d'agrandir plus vite les centres de données à moindre frais je ne vois pas trop comment serait gagnant l'environnement. Il me semble que parler d'écologie éthique est déplacé lorsque l'on parle d'entreprises dépensant autant d'énergie. S'il en ressort des moyens pour dépenser moins d'énergie c'est génial mais je ne crois pas que ce soit leur principal combat. Mais pourquoi diraient-ils le contraire, eux qui savent si bien nous parler.

Je suis conscient que la civilisation progresse et ne souhaite pas un passage de l'âge du silicium à l'âge de pierre, pour autant il me semble indécent que les machines consomment toujours plus d'énergie quand elles ne profitent qu'à une minorité des humains.

Car, oui, avoir accès au cloud en troquant ses libertés individuelles pour pouvoir lire debout coincé entre un gras du bide puant obsédé maniaco-dépressif voulant notre mort et une fille en mini-jupe plus courte que ses fesses qui ira porter plainte pour viol car on la frôlera en essayant de s'extirper du métro parisien, sur un support spécifique éphémère (qui nous a couté un mois de salaire) un média sous DRM, qu'on aurai du aimer après le bourrage de crâne médiatique subits et qui ne nous appartient pas tout en nous coûtant, espionner à longueur de journées ses nombreux amis racontant la sensation qu'ils ont eu lors de leur dernier grattage de fesses ou encore fouiller dans les entrailles du web grâce au seul et excellent moteur de recherche jamais réalisé : Google, pour connaître les statistiques et savoir ce qu'on doit aimer ou consulter le site qui à le plus d'audience (ce qui signifie évidemment que c'est le plus riche et intéressant culturellement parlant mais aussi une source fiable et un classement Google non intéressé vu que Google joue sur la transparence [bon je n'arrive pas à trouver la source du moteur de recherche mais je n'utilise pas Google alors c'est normal*]), mais ne pas pouvoir manger ou se soigner n'est pas profitable. Lorsque les fortunes de certains grossissent c'est beaucoup d'autres qui meurt de faim, l'argent comme l'énergie est limitée, doit être respectée et partagée. Pensez que certaines entreprises peuvent déjà acheter des états et ça ne va qu'en s'empirant. La science peut sauver des vies, la technologie peut embellir la vie... si tout le monde en profitent (je pense aux brevets sur certains médicaments). Sinon ça vaut autant qu'un pet de mouche !


*Pas d'open source pour le code du moteur de recherche de Google (tout comme Gmail, ou son Play store et presque tout ce qui s'y trouve).