IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Actualités Discussion :

L'apocalypse s'accomplira-t-elle avec la création de l'IA ?

  1. #1
    Expert éminent sénior

    Homme Profil pro
    Administrateur systèmes et réseaux
    Inscrit en
    mars 2013
    Messages
    426
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Cameroun

    Informations professionnelles :
    Activité : Administrateur systèmes et réseaux
    Secteur : Enseignement

    Informations forums :
    Inscription : mars 2013
    Messages : 426
    Points : 32 558
    Points
    32 558
    Par défaut L'apocalypse s'accomplira-t-elle avec la création de l'IA ?
    L'apocalypse s'accomplira-t-elle avec la création de l'IA ?
    L'entrepreneur Elon Musk pense que l'IA est la plus grande menace de l'humanité

    Les progrès de la science ont contribué à améliorer grandement les conditions de vie. Dans les disciplines scientifiques comme la physique, la biologie ou encore en génétique, pour ne citer que celles-là, des efforts appréciables ont été faits.

    L’informatique n’est pas en reste. Elle connaît elle aussi sa part de progrès, et d’autres tendances se profilent à l’horizon, comme la création de la première intelligence artificielle par l’homme.

    Le sujet en lui-même n’est pas nouveau. Mais, avec l’avancée actuelle des choses en informatique comme l’apprentissage machine, le « Big Data » et bien d’autres, il est logique de penser qu’on est plus proche de créer une IA (Intelligence artificielle) à notre époque qu’en 1950 où Alan Turing a publié son article « Computing Machinery and Intelligence ».

    Alors qu’on imagine que la création de l’IA pourrait être bénéfique pour l’homme sur plusieurs points, l’entrepreneur multimilliardaire sud-africain PDG de Telsa et fondateur de SpaceX, Elon Musk, pense le contraire.

    Pour lui, l’IA serait forcément maléfique. Musk compare un futur avènement d’une IA à une invocation d’êtres surnaturels malfaisants aux pouvoirs incommensurables, communément appelés démons.

    Dans les religions et les mythes, les démons sont pour la plupart des êtres surnaturels indépendants, qui vont jusqu’à asservir, voire même éliminer, celui qui les a invoqués.

    L’entrepreneur va même jusqu’à affirmer que le nucléaire serait moins dangereux que l’IA.

    Des peurs justifiées ? On ne peut en être réellement sûr. Les progrès scientifiques ont dû faire face à de nombreuses réticences dans l’histoire, peut-être qu’il en est de même avec l’IA.

    Cette idéologie d’une IA foncièrement malveillante n’est pas seulement soutenue par Musk. De nombreuses productions cinématographiques à l’instar de Matrix, i-Robot ou encore Terminator partagent le même point de vue.

    Par ailleurs, il faudrait préciser qu’à ce jour, il n’existe pas encore d’IA dans le sens du milliardaire. En effet, il faudrait être capable de créer une machine assez consciente pour pouvoir distinguer ce qui est bien de ce qui est mal : ce qui n’est pas pour demain.

    Source : Twitter Elon Musk

    Et vous ?

    Faut-il avoir peur de l'IA ?

  2. #2
    Expert confirmé
    Homme Profil pro
    Inscrit en
    février 2003
    Messages
    2 140
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 40
    Localisation : Belgique

    Informations forums :
    Inscription : février 2003
    Messages : 2 140
    Points : 4 278
    Points
    4 278
    Par défaut
    Faudrait plutot se poser la question dans quoi l'Homme (entk certains hommes) n'a pas vu l'apocalypse.
    Les éclipse, la médecine, les vaccins, les avions, les fusées, le nucléaire, l'an 2000, l'informatique, l'IA, le droit de vote, l'émancipation de la femme, la contraception, le mariage pour tous
    Je ne suis qu'un pauvre débutant alors ne frappez pas si mes idées ne sont pas bonnes

  3. #3
    Expert éminent sénior
    Avatar de Paul TOTH
    Homme Profil pro
    Freelance
    Inscrit en
    novembre 2002
    Messages
    8 311
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 52
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Freelance
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : novembre 2002
    Messages : 8 311
    Points : 26 924
    Points
    26 924
    Par défaut
    heureusement que personne ne lui a dit que Linux était bourré de daemon
    Developpez.com: Mes articles, forum FlashPascal
    Entreprise: Execute SARL
    Le Store Excute Store

  4. #4
    Nouveau membre du Club
    Homme Profil pro
    Lycéen
    Inscrit en
    décembre 2012
    Messages
    46
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 24
    Localisation : Ile Maurice

    Informations professionnelles :
    Activité : Lycéen

    Informations forums :
    Inscription : décembre 2012
    Messages : 46
    Points : 31
    Points
    31
    Par défaut
    En effet, il faudrait être capable de créer une machine assez consciente pour pouvoir distinguer ce qui est bien de ce qui est mal : ce qui n’est pas pour demain.
    En sachant que ce qui est bien pour elle ne serais pas forcément bien pour les hommes.

  5. #5
    Membre expérimenté
    Homme Profil pro
    Développeur Web
    Inscrit en
    juillet 2009
    Messages
    420
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 41
    Localisation : France, Nord (Nord Pas de Calais)

    Informations professionnelles :
    Activité : Développeur Web
    Secteur : High Tech - Multimédia et Internet

    Informations forums :
    Inscription : juillet 2009
    Messages : 420
    Points : 1 451
    Points
    1 451
    Par défaut
    Citation Envoyé par BenoitM Voir le message
    Faudrait plutot se poser la question dans quoi l'Homme (entk certains hommes) n'a pas vu l'apocalypse.
    Les éclipse, la médecine, les vaccins, les avions, les fusées, le nucléaire, l'an 2000, l'informatique, l'IA, le droit de vote, l'émancipation de la femme, la contraception, le mariage pour tous
    Certes.
    Cependant, il me semble que d'habitude, ce sont les "ignorants" et les "non initiés" qui ont toujours crier au désastre.
    Là, j'ai un peu l'impression (mais ça n'est peut-être qu'une impression) que dans le domaine de l'IA et de la gestion du Big Data, on retrouve pas mal d'initiés parmi les gens qui évoquent certaines craintes.

  6. #6
    Membre à l'essai
    Inscrit en
    octobre 2008
    Messages
    4
    Détails du profil
    Informations forums :
    Inscription : octobre 2008
    Messages : 4
    Points : 14
    Points
    14

  7. #7
    Nouveau membre du Club
    Homme Profil pro
    Analyste Programmeur
    Inscrit en
    janvier 2014
    Messages
    13
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 31
    Localisation : France, Hérault (Languedoc Roussillon)

    Informations professionnelles :
    Activité : Analyste Programmeur

    Informations forums :
    Inscription : janvier 2014
    Messages : 13
    Points : 25
    Points
    25
    Par défaut
    Judgement day is coming .. Hasta la vista baby

  8. #8
    Membre confirmé Avatar de bruneltouopi
    Homme Profil pro
    Ingénieur développement logiciels
    Inscrit en
    janvier 2010
    Messages
    308
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Ile Maurice

    Informations professionnelles :
    Activité : Ingénieur développement logiciels
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : janvier 2010
    Messages : 308
    Points : 466
    Points
    466
    Par défaut
    Je ne pense pas que cela puisses arriver un jour tant que la MACHINE est un succession de 0,1 alors l'intelligence ne peut pas se faire car cette machine ne pourra réagir que d'après un ensemble de séquences de Données collectées sur des comportements et l'analyse recus.
    Donc même en supposant qu'un enfant apprend en grandissant et prenant l'exemple il demeure la seule chose que le machine n'aura jamais:LA CONSCIENCE.
    Donc on est encore à des milliers d'années à part si l'homme découvre une nouvelle intelligence.L'IA ce n'est pas possible.
    Ce qui ne me tue pas me rend plus fort.

  9. #9
    Expert confirmé
    Homme Profil pro
    Inscrit en
    février 2003
    Messages
    2 140
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 40
    Localisation : Belgique

    Informations forums :
    Inscription : février 2003
    Messages : 2 140
    Points : 4 278
    Points
    4 278
    Par défaut
    Citation Envoyé par tontonnux Voir le message
    Certes.
    Cependant, il me semble que d'habitude, ce sont les "ignorants" et les "non initiés" qui ont toujours crier au désastre.
    Là, j'ai un peu l'impression (mais ça n'est peut-être qu'une impression) que dans le domaine de l'IA et de la gestion du Big Data, on retrouve pas mal d'initiés parmi les gens qui évoquent certaines craintes.
    Euh les gens de l'église ne sont pas forcément des ignorants. C'est leurs visions qui est étroite et caricaturale.
    Et là ce discours et se rapproche fortement de ces hommes d'église...(Il me semble qu'il y a quand même un fort courant mésianique aux USA)

    Il y a une différence à évoquer des craintes, des dangers (et donc des protections à mettre en place) et de parler d'apocalypse.
    (ps : des initiés qui veulent se faire remarquer, il y a en dans tous les domaines même dans les plus intelligents.Des scientifiques qui déclaraient que la cigarette n'était pas dangereuse, le réchauffement climatique,..)
    Je ne suis qu'un pauvre débutant alors ne frappez pas si mes idées ne sont pas bonnes

  10. #10
    Membre expérimenté
    Homme Profil pro
    Développeur Web
    Inscrit en
    juillet 2009
    Messages
    420
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 41
    Localisation : France, Nord (Nord Pas de Calais)

    Informations professionnelles :
    Activité : Développeur Web
    Secteur : High Tech - Multimédia et Internet

    Informations forums :
    Inscription : juillet 2009
    Messages : 420
    Points : 1 451
    Points
    1 451
    Par défaut
    Citation Envoyé par BenoitM Voir le message
    Euh les gens de l'église ne sont pas forcément des ignorants. C'est leurs visions qui est étroite et caricaturale.
    Et là déjà dans le discours et ce rapproche fortement de ces hommes d'église...

    Et il y a une différence à évoquer des craintes, des dangers (et donc des protections à mettre en place) et de parler d'apocalypse.
    Evidemment que ici les propos sont exagérés. Lorsque je parle d'alertes, je ne pense pas à cette personne en particulier.
    Je répondais surtout à la personne qui faisait le parallèle avec les peurs sur "Les éclipse, la médecine, les vaccins, les avions, les fusées, etc...".
    Non, ce n'est pas comparable.

    On est pas ici face à une peur par ignorance, mais face à une crainte évoquée par des personnes qui maîtrisent le sujet.

  11. #11
    Expert confirmé Avatar de Zefling
    Homme Profil pro
    Développeur Web
    Inscrit en
    avril 2007
    Messages
    1 122
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Puy de Dôme (Auvergne)

    Informations professionnelles :
    Activité : Développeur Web
    Secteur : High Tech - Multimédia et Internet

    Informations forums :
    Inscription : avril 2007
    Messages : 1 122
    Points : 4 352
    Points
    4 352
    Par défaut
    L'article a vraiment été fait à partir d'un tweet ?

  12. #12
    Membre averti
    Inscrit en
    novembre 2006
    Messages
    120
    Détails du profil
    Informations forums :
    Inscription : novembre 2006
    Messages : 120
    Points : 314
    Points
    314
    Par défaut
    Je ne pense pas que cela puisses arriver un jour tant que la MACHINE est un succession de 0,1 alors l'intelligence ne peut pas se faire car cette machine ne pourra réagir que d'après un ensemble de séquences de Données collectées sur des comportements et l'analyse recus.
    +1, Turing a démontré qu'aucune machine aussi évoluée soit-elle ne pourrait faire plus que lire/écrire et avancer/reculer avec des transitions définies sur un ruban infini (et encore que d'un côté!).

    Même les machines les plus puissantes aujourd'hui sont des sous-machines de Turing puisque leur mémoire vive (~= leur ruban) est limitée.

    Le mec devrait arrêter de regarder Terminator, Skynet c'est pas pour tout de suite ! De plus, la loi de Moore ne se vérifiant plus depuis plusieurs années, on assiste à une décélération du progrès technologique...
    Développeur / Formateur
    Tutoriels AngularJS / Node.js sur ma chaîne Youtube : http://www.youtube.com/user/DevDuFutur

  13. #13
    Membre éclairé
    Homme Profil pro
    Ingénieur de recherche
    Inscrit en
    janvier 2012
    Messages
    323
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France

    Informations professionnelles :
    Activité : Ingénieur de recherche
    Secteur : Agroalimentaire - Agriculture

    Informations forums :
    Inscription : janvier 2012
    Messages : 323
    Points : 876
    Points
    876
    Par défaut
    Je crois que ça fait partie de la stratégie marketing de SpaceX que leur dirigeants fassent le buzz sur des sujets comme ça.
    Il y a une ou deux semaines ils parlaient d'une colonie martienne de 1 millions d'habitants en 2050.

  14. #14
    Membre averti
    Profil pro
    Inscrit en
    août 2006
    Messages
    243
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : août 2006
    Messages : 243
    Points : 328
    Points
    328
    Par défaut
    Citation Envoyé par Zefling Voir le message
    L'article a vraiment été fait à partir d'un tweet ?
    plutôt à partir d'une conférence

  15. #15
    Membre régulier
    Inscrit en
    novembre 2009
    Messages
    94
    Détails du profil
    Informations forums :
    Inscription : novembre 2009
    Messages : 94
    Points : 85
    Points
    85
    Par défaut il a raison
    En effet, il faudrait être capable de créer une machine assez consciente pour pouvoir distinguer ce qui est bien de ce qui est mal : ce qui n’est pas pour demain.
    N'importe quoi. C'est justement parce que l'IA, en tout cas l'IA actuelle, ne différencie pas le bien du mal, en tout cas pas comme les humains, qu'elle est dangereuse.

    Et de toute facon, qui définit ce qui est bien et ce qui est mal? Les philosophes réfléchissent à cela depuis l'invention de la religion et la réponse est ... qu'il n'y a pas de réponse. Il y a une métaréponse: http://fr.wikipedia.org/wiki/Bien_%28philosophie%29 . Le bien est la valeur normative de la morale. Donc qui définit la morale? dans le cas de l'IA, l'équipe de programmeurs.
    Supposons que cette équipe de programmeurs, mais ce n'est qu'un supposition, supposons donc que l'équipe de programmeurs soit composée aux trois quarts de gros asociaux qui détestent les hommes :
    • parce qu'ils sont trop bêtes
    • parce qu'ils polluent avec leur voiture
    • parce qu'ils ne comprennent rien à Windows, ni à Linux d'ailleurs
    • parce qu'ils écoutent de la musique pour idiots alors que chacun sait que "Children of Boddom" est le seul vrai groupe de musique depuis Brahms
    • parce qu'ils sont anti-américains primaires alors que les USA défendent la liberté depuis le début
    • parce que la société serait meilleure avec seulement des femmes.
    • ...


    Alors on a déjà une bonne idée des règles logiques qui définiront la morale de l'IA et perso, je donne raison à M. Musk

  16. #16
    Membre extrêmement actif Avatar de Jon Shannow
    Homme Profil pro
    Responsable de service informatique
    Inscrit en
    avril 2011
    Messages
    3 854
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 58
    Localisation : France, Ille et Vilaine (Bretagne)

    Informations professionnelles :
    Activité : Responsable de service informatique
    Secteur : High Tech - Électronique et micro-électronique

    Informations forums :
    Inscription : avril 2011
    Messages : 3 854
    Points : 7 573
    Points
    7 573
    Par défaut
    Citation Envoyé par bruneltouopi Voir le message
    Je ne pense pas que cela puisses arriver un jour tant que la MACHINE est un succession de 0,1 alors l'intelligence ne peut pas se faire car cette machine ne pourra réagir que d'après un ensemble de séquences de Données collectées sur des comportements et l'analyse recus.
    Donc même en supposant qu'un enfant apprend en grandissant et prenant l'exemple il demeure la seule chose que le machine n'aura jamais:LA CONSCIENCE.
    Donc on est encore à des milliers d'années à part si l'homme découvre une nouvelle intelligence.L'IA ce n'est pas possible.
    Et si je te dis que le système nerveux humain (cerveau compris) ne fonctionne qu'avec des 0 et des 1 ? Ça change tes perspectives, non ?
    Au nom du pèze, du fisc et du St Estephe
    Au nom du fric, on baisse son froc...

  17. #17
    Expert confirmé Avatar de DonQuiche
    Inscrit en
    septembre 2010
    Messages
    2 741
    Détails du profil
    Informations forums :
    Inscription : septembre 2010
    Messages : 2 741
    Points : 5 459
    Points
    5 459
    Par défaut
    Citation Envoyé par Cedric Chevalier Voir le message
    Pour lui, l’IA serait forcément maléfique. Musk compare un futur avènement d’une IA à une invocation d’êtres surnaturels malfaisants aux pouvoirs incommensurables, communément appelés démons.
    Ceci est atrocement sorti de son contexte. Initialement c'était une métaphore humoristique lors d'une conférence donnée au MIT.

    "So we need to be very careful with the artificial intelligence. Increasingly scientists think there should be some regulatory oversight maybe at the national and international level, just to make sure that we don’t do something very foolish. With artificial intelligence we are summoning the demon. In all those stories where there’s the guy with the pentagram and the holy water, it’s like yeah he’s sure he can control the demon. Didn’t work out."

    Source : The Register

  18. #18
    Membre régulier
    Inscrit en
    novembre 2009
    Messages
    94
    Détails du profil
    Informations forums :
    Inscription : novembre 2009
    Messages : 94
    Points : 85
    Points
    85
    Par défaut vous mélangez tout
    Citation Envoyé par palnap Voir le message
    +1, Turing a démontré qu'aucune machine aussi évoluée soit-elle ne pourrait faire plus que lire/écrire et avancer/reculer avec des transitions définies sur un ruban infini (et encore que d'un côté!).

    Même les machines les plus puissantes aujourd'hui sont des sous-machines de Turing puisque leur mémoire vive (~= leur ruban) est limitée.

    Le mec devrait arrêter de regarder Terminator, Skynet c'est pas pour tout de suite ! De plus, la loi de Moore ne se vérifiant plus depuis plusieurs années, on assiste à une décélération du progrès technologique...
    Vous dîtes n'importe quoi. Comme la médecine est tellement avancée qu'on peut guérir le cancer, il n'y aura plus d'épidémies ? ..--> ebola, sida, grippe

    Un robot a même été officiellement désigné comme membre du conseil d'administration d'une entreprise, et pas n'importe laquelle. Il s'agit d'un fonds d'investissement. Autrement dit, une entreprise qui investit , ou pas, dans d'autres entreprises et peut donc décider de supprimer, ou pas, des emplois. http://aginganalytics.com/a-venture-...-of-directors/

  19. #19
    Membre extrêmement actif
    Avatar de Sodium
    Femme Profil pro
    Développeuse web
    Inscrit en
    avril 2014
    Messages
    2 324
    Détails du profil
    Informations personnelles :
    Sexe : Femme
    Localisation : Belgique

    Informations professionnelles :
    Activité : Développeuse web

    Informations forums :
    Inscription : avril 2014
    Messages : 2 324
    Points : 1 945
    Points
    1 945
    Billets dans le blog
    1
    Par défaut
    Une vraie IA capable de créativité, d'apprentissage, de prise de décisions devra selon moi nécessairement copier au plus proche le fonctionnement de nos cerveaux humains, avec les défauts que ça implique.
    Si une IA se rend compte que le seul moyen de sauver un grand nombre de vies est de procéder à un meurtre de masse, comment réagira-t-elle ?
    Une IA capable de réfléchir à sa propre existence pourra-t-elle rester aux services de l'homme ? N'oublions pas que le cerveau est un ordinateur, la soif de liberté d'un cerveau humain artificiel me paraît difficilement évitable.

    Je pense dans tous les cas que l'on veut aller trop loin trop vite pour le moment. Les voitures sans pilotes, les objets connectés, les drones de combats ... je ne pense pas que l'on maîtrise aujourd’hui suffisamment la technologie pour se lancer dans tous ça.

  20. #20
    Expert éminent sénior
    Avatar de rawsrc
    Homme Profil pro
    Dev indep
    Inscrit en
    mars 2004
    Messages
    6 142
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 45
    Localisation : France, Bouches du Rhône (Provence Alpes Côte d'Azur)

    Informations professionnelles :
    Activité : Dev indep

    Informations forums :
    Inscription : mars 2004
    Messages : 6 142
    Points : 16 473
    Points
    16 473
    Billets dans le blog
    12
    Par défaut
    Citation Envoyé par Jon Shannow Voir le message
    Et si je te dis que le système nerveux humain (cerveau compris) ne fonctionne qu'avec des 0 et des 1 ? Ça change tes perspectives, non ?
    Je ne pense pas du tout que le cerveau humain fonctionne que sur des 0 et/ou des 1.
    Toutes les études montrent qu'il y a bien un potentiel électrique à l'oeuvre dans le cerveau mais celui ci ne fonctionne pas de manière binaire. Le potentiel électrique est variable dans son intensité (et sa fréquence) et du coup le 1 en informatique peut correspondre à mille variantes dans le contexte cérébral...

    C'est autrement plus compliqué qu'un banal système électrique aussi complexe soit-il comme un processeur actuellement

    Après, n'étant pas du tout versé dans ce domaine je serai incapable d'en dire plus.

Discussions similaires

  1. [Débutant] colonnes liées entre elles avec des requetes
    Par spring.time dans le forum VB.NET
    Réponses: 1
    Dernier message: 13/09/2012, 15h03
  2. Export avec la création d'un job sous OEM
    Par Bindy dans le forum Entreprise Manager
    Réponses: 17
    Dernier message: 03/07/2008, 23h50
  3. probléme avec la création de table Mysql 5
    Par developpeur_mehdi dans le forum Outils
    Réponses: 3
    Dernier message: 19/10/2005, 20h08
  4. Problème avec la création d'un composant
    Par jeromelef dans le forum Composants VCL
    Réponses: 6
    Dernier message: 01/10/2005, 01h51
  5. Réponses: 2
    Dernier message: 29/03/2004, 19h29

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo