Discussion :

[Bill Fassinou]

L’IA représenterait un plus grand risque pour l’humanité que les changements climatiques et le terrorisme
selon un expert

Lors du National Governors Association Summer Meeting de juillet 2017, Elon Musk a tiré la sonnette d’alarme quant aux dangers que représente l’intelligence artificielle. L'entrepreneur de la Tech, qui déjà en 2014 déclarait que le nucléaire serait moins dangereux que l’intelligence artificielle, a expliqué trois ans plus tard que l’IA représente un risque fondamental pour l’existence de la civilisation humaine. Ces déclarations semblent avoir trouvé un écho chez le professeur Jim Al-Khalili qui avertit que l’intelligence artificielle serait « un plus grand risque pour l’humanité que les changements climatiques et le terrorisme ».

Lors d’un briefing à Londres, le nouveau Président de la British Science Association a exprimé ses craintes sans détour. Précisant que le Royaume-Uni était le fer de lance de l’intelligence artificielle et rappelant les estimations qui prévoient que cette technologie contribuerait jusqu’à 15 000 milliards de dollars US à l’horizon 2030, le scientifique a indiqué qu’à l’instar de la modification génétique, il y avait un réel risque que l’intelligence artificielle finisse par être perçue comme effrayante et sinistre par le public.

« Jusqu'à il y a quelques années, si on m’avait demandé quel est le sujet le plus pressant et important à propos de notre avenir, j’aurai probablement répondu le changement climatique ou l'un des autres grands défis auxquels l'humanité est confrontée, tels que le terrorisme, la résistance aux microbes, la menace de pandémies ou la pauvreté mondiale », explique-t-il en ajoutant qu’aujourd’hui il était certain que « la conversation la plus importante que nous devrions avoir, concerne l'avenir de l'IA ». Il est persuadé que l’intelligence artificielle, que ce soit en bien ou en mal, impacterait plus le monde que toutes ces autres questions brûlantes de l’heure.

Le professeur Al-Khalili avertit que le réel potentiel de l’intelligence artificielle ne saurait être révélé sans une plus grande transparence et un engagement public. Pour lui, tant que le gouvernement, l’industrie et les universitaires ne se concertent pas pour agir, l’intelligence artificielle pourrait vite devenir incontrôlable et centralisée entre les mains de quelques sociétés extrêmement puissantes.

Il convient cependant de préciser que c’est un sujet à prendre avec des pincettes. Toute avancée scientifique mal encadrée et mal exploitée peut virer au cauchemar. L’intelligence artificielle ne fait certainement pas exception à ce principe. Mais, il faut aussi prendre en compte les possibilités d’applications quasi illimitées de l’intelligence artificielle. Cette technologie permet de faire beaucoup plus de choses, plus vite et mieux, avec une marge d’erreur relativement faible.

Source : Metro

Et vous ?

Que pensez-vous de cet avis du professeur ?

Voir aussi

Elon Musk considère l'IA comme un risque fondamental pour l'existence de la civilisation humaine et sa colonisation de Mars comme un plan de secours

L'apocalypse s'accomplira-t-elle avec la création de l'IA ? L'entrepreneur Elon Musk pense que l'IA est la plus grande menace de l'humanité

Des experts prédisent que l'IA va dominer les humains dans moins de 50 ans selon une étude menée par les deux universités Harvard et Yale

Une IA aurait permis de commencer à percer les mystères entourant le manuscrit de Voynich considéré comme le plus important cryptogramme non résolu

[Thorna]

L'IA ne représente qu'un seul et unique danger: c'est celui que nous y mettrons, nous humains "programmeurs" ou "enseignants" de cette IA. Voir par exemple le bot de Microsoft qui est devenu raciste en quelques jours il y a 1 an ou 2.
Consacrez un peu de temsp à cette excellente série de vidéos, tout y est détaillé, du plus simple au plus complexe.

[jimmitry]

Affirmation fausse. Plu de planète = fin de l'humanité.

L'IA n'est qu'un être "futur vivant" comme un autre.
Je parle de la super IA, pas les petits algo écrit jusqu'à maintenant en Machine Learning.
Une machine avec un "Mentalais" intégré, comme nous.
Une nouvelle espèce de fer et d'acier qu'il faudra intégrer dans le monde des "humains".

L'enfant de l'Homme! Et comme tout enfant il faudra lui apprendre à vivre avec autrui.
Une machine aussi intelligente s'aura largement vivre avec les autres.

Le vrai problème c'est les hobbies financier qui ont pris le pouvoir.
Le vrai problème c'est l'Homme qui préfère choisir "argent tout de suite" que "survis de nos petits enfants".

Et l'Homme a peur de la super IA, car "Comment convaincre une machine aussi intelligente que 'la corruption, c'est bon pour le monde ?... '". Impossible !!!

L'Homme a peur de lui même.

La priorité est que "L'Homme change !!!!!!!!!!"

http://www.innov-ai.com

[Anselme45]

Affirmation fausse. Plu de planète = fin de l'humanité.

Ta propre information est fausse!

Fin de l'humanité, très certainement, on fait tout pour accélérer notre fin... Mais fait-toi pas de soucis, la planète sera toujours là pour nous dire au revoir

L'Humain est tellement imbus de lui-même qu'il croit pouvoir faire disparaître la planète... L'Humain ne fait que disparaître les conditions nécessaires à sa propre survie...

La planète a déjà vécu de nombreuses extinctions massives de vie (la plus connue celle des dinosaures), elle est toujours là pour subir nos conneries!

[ShigruM]

La planète a déjà vécu de nombreuses extinctions massives de vie (la plus connue celle des dinosaures), elle est toujours là pour subir nos conneries!

tu parle de la planète comme si c'était un être vivant....
c'est juste un tas de caillou hein faut relativiser. La planète tu peut la forer comme du gruyère elle te dira rien, c'est juste un morceau de caillou avec de l’oxygène et de la vie.

Tu lui donne trop d'importance, aujourd'hui l’espèce humaine sait créer des environnements artificiels propice a sa vie, ces environnement sont appeler bunkers, des lieux enterré sous terre capable de généré/recyclé oxygène, eau, électricité et nourriture pendant plus d'1 siècle en parfaite autonomie.

l'homme a toujours aimé vivre sous terre dans des grotte depuis la nuit des temps, il n'aime pas aller l’extérieure, il préfère rester dans sa grotte devant un ordinateur a écrire des message sur developpez.net

la nature est un poison, un environnement hostile a l'homme : le soleil pourquoi faut mettre de la crème solaire ? parce que le soleil c'est pire que d'habiter pres d'une centrale nucléaire.
la nature c'est des rats, des tics, des serpents, des mous-tic, des frelons bref des parasites qu'il faut exterminer. Ils transportent des maladies pouvant nous infecter et pollue notre environnement et pire encore tuent les animaux qui servent nos ambitions (frelon qui tue les abeilles...)


relativisons la nature et la planète s'il vous plait, tous est loin "d’être vert", des races exterminé ferais pas trop de mal a l'homme comme les mous-tics par exemple.

[robertledoux]

la nature est un poison, un environnement hostile a l'homme : le soleil pourquoi faut mettre de la crème solaire ? parce que le soleil c'est pire que d'habiter pres d'une centrale nucléaire.
la nature c'est des rats, des tics, des serpents, des mous-tic, des frelons bref des parasites qu'il faut exterminer. Ils transportent des maladies pouvant nous infecter et pollue notre environnement et pire encore tuent les animaux qui servent nos ambitions (frelon qui tue les abeilles...)


relativisons la nature et la planète s'il vous plait, tous est loin "d’être vert", des races exterminé ferais pas trop de mal a l'homme comme les mous-tics par exemple.

Mais W-F-T, je ne sais pas ce que tu prends, mais c'est efficace ! L'homme n'est qu'un maillon de la chaîne alimentaire, est c'est justement le fait qu'il essaye de s'y élever ou de s'absoudre de la mortalité qui pose soucis . La terre, certes, c'est un "cailloux" mais qui héberge tout un écosystème, retire une seule brique et boom, une partie de la pyramide se casse la gueule. Je vais reprendre ton exemple des moustiques, cet animal aide à la dépollution des eaux, et à nourrir d'autres animaux comme les oiseaux, ils sont de grand pollinisateurs et petit fait historique, la aiguilles utilisées en médecine sont directement inspirées de la trompe des moustiques. Il a été estimé que si les moustiques venaient à disparaître, près de 40-50% des oiseaux disparaîtraient dans la foulée. Autre cas de ton exemple, les frelons, ce sont des exterminateurs de nuisibles naturels et il sont généralement passifs, ils n'attaquent jamais sans raison. Et de plus, les frelons tuent rarement les abeilles. Le frelon européen s’attaque à la fausse teigne de cire, un insecte qui nuit considérablement aux ruches des abeilles.

[sergio_is_back]

tu parle de la planète comme si c'était un être vivant....
c'est juste un tas de caillou hein faut relativiser. La planète tu peut la forer comme du gruyère elle te dira rien, c'est juste un morceau de caillou avec de l’oxygène et de la vie.

Anselme45 parle de planète en temps que "Biomasse" un concept que te ne semble pas vraiment connaître

Tu lui donne trop d'importance, aujourd'hui l’espèce humaine sait créer des environnements artificiels propice a sa vie, ces environnement sont appeler bunkers, des lieux enterré sous terre capable de généré/recyclé oxygène, eau, électricité et nourriture pendant plus d'1 siècle en parfaite autonomie.

Un siècle c'est un battement de cil à l'échelle de la planète même si t'est pas bien vieux et que du coup tu pense que c'est une éternité surement pas assez pour régénérer un biotope détruit...

Et comment vont se reproduire tes descendants entre eux ? Bonjour la consanguinité

l'homme a toujours aimé vivre sous terre dans des grotte depuis la nuit des temps, il n'aime pas aller l’extérieure, il préfère rester dans sa grotte devant un ordinateur a écrire des message sur developpez.net

C'est vrai que vivre dans une mine de charbon ça peut être sympa... Un peu humide peu être...

la nature est un poison, un environnement hostile a l'homme : le soleil pourquoi faut mettre de la crème solaire ? parce que le soleil c'est pire que d'habiter pres d'une centrale nucléaire.
la nature c'est des rats, des tics, des serpents, des mous-tic, des frelons bref des parasites qu'il faut exterminer. Ils transportent des maladies pouvant nous infecter et pollue notre environnement et pire encore tuent les animaux qui servent nos ambitions (frelon qui tue les abeilles...)

Les "mous-tic" c'est des "tics" qui volent.... Conseil : Achète toi un dictionnaire avant de descendre dans ta grotte...

Note : "mous-tic" s'écrit moustique et "tics" s'écrit tiques

En matière de pollution de l'environnement l'humain en connait un rayon de plus que les frelons... (qui ne me dérangent pas outre mesure)
Et toutes les espèces ont leur utilité dans l’écosystème, prétendre le contraire, c'est être le plus grand des crétins et démonter en même temps que toi tu n'ya aucune utilité et que tu pourrais participer aux Darwin Awards avec succès

relativisons la nature et la planète s'il vous plait, tous est loin "d’être vert", des races exterminé ferais pas trop de mal a l'homme comme les mous-tics par exemple.

C'est bien parce qu'on la "relativise" qu'elle nous le fera payer un jour...

Sinon ta prose nous renvoie par certains cotés au paradoxe de Fermi :

« S’il y avait des civilisations extraterrestres, leurs représentants devraient être déjà chez nous. Où sont-ils donc ? »

Ce à quoi on pourrait répondre : parce cette civilisation extraterrestre s'est auto-détruite bien avant de conquérir l'espace...

Sinon Anselme45 a raison, la terre existera encore bien après nous, la vie n'a pas besoin de l'homme pour se développer, mais l'homme a besoin de la vie pour survivre...

Et le principal danger de l'IA c'est de se reposer sur elle et devenir fainéants. Il y'a qu'a regarder actuellement comment la majorité des gens ne sait plus rien faire sans l'aide du moindre gadget technologique (alors c'est aussi facile à la main).... C'est ça le principal danger : se laisser lobotomiser par la technologie...

C'est ce qu'on appelle le déclin d'une civilisation lorsque l'on devient tellement imbus de nous mêmes que l'on pense survivre quoi qu'il advienne

[sergio_is_back]

L'IA n'est qu'un être "futur vivant" comme un autre.

Hou-là, ça part loin....

Déjà commence par définir ce que entend par "vivant" ?

A partir de quels critères défini-tu qu'une chose est "vivante" ?

Je cite :

La principale caractéristique d’un être vivant, par rapport aux objets inanimés et aux machines, est qu’il est « un corps qui forme lui-même sa propre substance » à partir de celle qu’il puise dans le milieu

Est-ce à dire que l'IA possède un corps et qu'elle le développe elle-même ?

ou

N'est elle plutôt qu'une construction abstraite qui t'échappe ?

[calypso59]

Affirmation fausse. Plu de planète = fin de l'humanité.

L'IA n'est qu'un être "futur vivant" comme un autre.
Je parle de la super IA, pas les petits algo écrit jusqu'à maintenant en Machine Learning.
Une machine avec un "Mentalais" intégré, comme nous.
Une nouvelle espèce de fer et d'acier qu'il faudra intégrer dans le monde des "humains".

L'enfant de l'Homme! Et comme tout enfant il faudra lui apprendre à vivre avec autrui.
Une machine aussi intelligente s'aura largement vivre avec les autres.

Le vrai problème c'est les hobbies financier qui ont pris le pouvoir.
Le vrai problème c'est l'Homme qui préfère choisir "argent tout de suite" que "survis de nos petits enfants".

Et l'Homme a peur de la super IA, car "Comment convaincre une machine aussi intelligente que 'la corruption, c'est bon pour le monde ?... '". Impossible !!!

L'Homme a peur de lui même.

La priorité est que "L'Homme change !!!!!!!!!!"

http://www.innov-ai.com

Délire prométhéen.

Le plus grand danger est d'avoir des générations de personnes apathiques, incapables de penser par elles-mêmes et se fiant aveuglément à des machines dont la seule compétence est de choisir entre 2 formules mathématiques.

Après tout depuis 1990 le QI à diminué alors que simultanément l'informatique a pris son essor.

Les grands gourous de l'informatique font du commercial et du marketing en sachant qu'il n'y a absolument rien derrière.

Totalement d'accord, le plus dangereux pour moi n'est pas l'IA en soit (bien que...) mais les rétro-actions qu'elle crée. En claire une accentuation de la dépendance à l'hyper-structure. Au lieu d'un "homme augmenter" (formule horrible en réalité) nous auront un "homme assisté" incapable de ce mouvoir hors de l'hyper-structure.

[brulain]

C'est bien parce que cela vient de nous que le danger est énorme.
Mais bon, c'est comme ça n'est-ce pas...

[cryptonyx]

Le plus grand "danger" pour la communauté scientifique est que des pseudo-intellectuels abusent de la fumette ou d'autres substances illicites avant de monter en tribune dans des congrès ou par malheur des journalistes sont présents.

Quand au plus grand danger pour l'humanité, la connerie humaine tient toujours la corde.

[Jamatronic]

On dire ce qu'on voudra, j'aurai toujours plus peur d'un terroriste que de mon ordinateur.

Tous ces soi-disant "experts" qui n'ont aucune idée de ce qu'est l'IA et qui viennent vous donner des leçons, c'est assez... représentatif du monde de l'IT en fait.

[sergio_is_back]

On dire ce qu'on voudra, j'aurai toujours plus peur d'un terroriste que de mon ordinateur.

Tous ces soi-disant "experts" qui n'ont aucune idée de ce qu'est l'IA et qui viennent vous donner des leçons, c'est assez... représentatif du monde de l'IT en fait.

Et toi à tu l'idée précise de ce qu'est une IA, même les experts ne sont pas d'accord entre eux (voir les concepts d'IA faible et d'IA forte)

Déjà la notion "d'intelligence" ne fait pas consensus alors l'IA...

[ShigruM]

Et toi à tu l'idée précise de ce qu'est une IA, même les experts ne sont pas d'accord entre eux (voir les concepts d'IA faible et d'IA forte)

Déjà la notion "d'intelligence" ne fait pas consensus alors l'IA...

c'est juste des lignes de code utilisant des algo mathématique qui existe depuis plus de 20ans... réseau de neurone, régression linaire...etc
Aujourd'hui nous exploitons juste les mathématiques "théorique" de hier, grâce à la puissance brute et sauvage des ordinateurs et des centrales nucléaires qui l'alimente.

quand nous maîtriserons la fusion nucléaire nous pourrons aller au delà de l'exascale et la cela vas transcender la vie que nous connaissons, ces algos pourrons prédire en temps réel l'évolution de ton cancer et permettrons aux chirurgiens de couper la ou il faut
ce sera une époque fantastique, il n'ya aura plus de bouchons dans les villes, les transports en commun arriverons des que tu sera sur une station, la température de la ville sera controllé au degré pres pour pas avoir trop froid l'hiver et pas trop chaud l'été grâce à des climatiseur/radiateur géants.

bref l'énergie infi pour une puissance de calcul infini...pour la grandeur de l’espèce humaine, certains prédise meme l'immortalité grace a l'exascale, c'est le saint graal, l'espoir de l'hummanité pour le sauver de son manque d'énergie et de puissance.


Quand je pense que tous cela a commencé avec la maîtrise de l’agriculture, la construction de villes, d'armée pour protéger les récoltes et aujourd'hui on en est pres à l'exascale pour notre soif de puissance, a l'arme atomique connecté pour protéger nos ressources
nous avons tellement progresser, nous avons dépasser le niveau de l'atlantide rendez vous compte

[sergio_is_back]

c'est juste des lignes de code utilisant des algo mathématique qui existe depuis plus de 20ans... réseau de neurone, régression linaire...etc
Aujourd'hui nous exploitons juste les mathématiques "théorique" de hier, grâce à la puissance brute et sauvage des ordinateurs et des centrales nucléaires qui l'alimente.

quand nous maîtriserons la fusion nucléaire nous pourrons aller au delà de l'exascale et la cela vas transcender la vie que nous connaissons, ces algos pourrons prédire en temps réel l'évolution de ton cancer et permettrons aux chirurgiens de couper la ou il faut
ce sera une époque fantastique, il n'ya aura plus de bouchons dans les villes, les transports en commun arriverons des que tu sera sur une station, la température de la ville sera controllé au degré pres pour pas avoir trop froid l'hiver et pas trop chaud l'été grâce à des climatiseur/radiateur géants.

bref l'énergie infi pour une puissance de calcul infini...pour la grandeur de l’espèce humaine, certains prédise meme l'immortalité grace a l'exascale, c'est le saint graal, l'espoir de l'hummanité pour le sauver de son manque d'énergie et de puissance.


Quand je pense que tous cela a commencé avec la maîtrise de l’agriculture, la construction de villes, d'armée pour protéger les récoltes et aujourd'hui on en est pres à l'exascale pour notre soif de puissance, a l'arme atomique connecté pour protéger nos ressources
nous avons tellement progresser, nous avons dépasser le niveau de l'atlantide rendez vous compte

T'est sûr d'être dans le bon forum ?

Je suis pas convaincu que tu sache de quoi tu parles...

Un forum pour boutonneux ou pour amateurs de SF te conviendrait mieux je pense ?

Au passage : la fusion nucléaire ça s'appelle "Une bombe H" va demander aux victimes d'Hiroshima (ceux qui restent) si ils ont envie que leur Internet marche à la fusion nucléaire... Moi pas...

[Demky]

"selon un expert"

[pierre-y]

On commence a le savoir que l'IA est un risque^^. Il doit y en avoir un par semaine qui tombe. Personnellement je pense que c'est le libéralisme sauvage qui en est un mais chacun son truc.

[Excellion]

Le plus grand danger est d'avoir des générations de personnes apathiques, incapables de penser par elles-mêmes et se fiant aveuglément à des machines dont la seule compétence est de choisir entre 2 formules mathématiques.

Après tout depuis 1990 le QI à diminué alors que simultanément l'informatique a pris son essor.

Les grands gourous de l'informatique font du commercial et du marketing en sachant qu'il n'y a absolument rien derrière.

[Invité]

Le plus grand danger est d'avoir des générations de personnes apathiques, incapables de penser par elles-mêmes et se fiant aveuglément à des machines dont la seule compétence est de choisir entre 2 formules mathématiques.

J'aimerais bien savoir quelques algorithmes d'IA et de machine learning tu as déjà utilisés et sur quelques types d'applications, pour résumer l'IA à un choix entre 2 formules.

Après tout depuis 1990 le QI à diminué alors que simultanément l'informatique a pris son essor.

Déjà, le QI n'a jamais été une mesure fiable de "l'intelligence". Ensuite, corrélation n'est pas causalité. Enfin, il faudrait définir "l'informatique" : genre poster des selfies sur facebook, c'est de l'informatique ?

Les grands gourous de l'informatique font du commercial et du marketing en sachant qu'il n'y a absolument rien derrière.

Ce "rien derrière"de l'IA arrive tout de même à battre les meilleurs experts au jeu d'échecs, au jeu de go, à des diagnotisques médicaux, à des analyses financières, etc...

[ShigruM]

Totalement d'accord, le plus dangereux pour moi n'est pas l'IA en soit (bien que...) mais les rétro-actions qu'elle crée. En claire une accentuation de la dépendance à l'hyper-structure. Au lieu d'un "homme augmenter" (formule horrible en réalité) nous auront un "homme assisté" incapable de ce mouvoir hors de l'hyper-structure.

c'est déjà le cas... qui est aujourd'hui capable de vivre seul dans la nature ?
les gens sont des assisté des supers marché, de l’électricité... qui n'a pas d’électricité et de frigo chez lui ?
pour manger de la viande je connais peud e gens capable d'égorger l'agneaux, ils préfère l'acheter en barquette à carrefour, c'est "plus propre".

Mais es ce pour autant des assisté ? non, l'homme a créer un monde complexe qui nécessite des connaissance pointue dans énormément de domaine, certains sont spécialisé dans l’abattage d'agneaux, d'autre dans la finance d'autre en histoire.
moi en dehors de l'histoire et de l'informatique, je n'y connais rien, je suis un "assisté" en électricité, donc je préfère payer un électricien si c'est au delà des plombs qui ont sauté.

aujourd'hui si je vaut faire de la cuisine je demande à google, demain j'aurais juste a demandé à une IA de me cuisiner un plat répondant a tel et tel caractéristique et elle me fera le repas.
ce qui est impotant c'est pas de cuisiné on s'ne fou de savoir cuire une omeltte, ce qui compte c'est de savoir quoi cuisiner, de savoir quel aliment mélanger afin d'avoir une alimentation aine et équilibré. C'est donc un dialoge constructif qu'il faut mettre en place avec l'ia qui nous conseille, je discute, j'avance mes arguments mais a la fin je décide et elle exécute.

j'ai par exemple une montre connecté actuellement, régulièrement elle me dit de me lever et de marcher, mais elle ne me force pas, je choisit entre écouté ces précieux conseille ou pas.
elle me conseille dans les activité physique que je devrais faire le week end, par exemple une petite marche de 20 minutes, du vélo...etc mais elle m'apporte que des conseille je garde mon libre arbitre, je ne suis pas l'esclave de ma montre.