+ Répondre à la discussion Actualité déjà publiée
  1. #1
    Chroniqueur Actualités
    Avatar de Michael Guilloux
    Homme Profil pro
    Consultant
    Inscrit en
    juillet 2013
    Messages
    1 408
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 26
    Localisation : Côte d'Ivoire

    Informations professionnelles :
    Activité : Consultant
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : juillet 2013
    Messages : 1 408
    Points : 39 658
    Points
    39 658
    Billets dans le blog
    2

    Par défaut Elon Musk considère l’IA comme un risque fondamental pour l’existence de la civilisation humaine

    Elon Musk considère l’IA comme un risque fondamental pour l’existence de la civilisation humaine
    et sa colonisation de Mars comme un plan de secours

    Comme on peut le voir dans certains jeux vidéo, si l’on se projette dans quelques siècles à venir, on verra la civilisation humaine dominée par des extraterrestres. Mais pour Elon Musk, ces extraterrestres pourraient être le fruit de l’intelligence artificielle, si rien n’est fait dès maintenant pour contenir cette technologie. Le visionnaire et milliardaire de la Tech vient en effet, une nouvelle fois, de tirer la sonnette d’alarme sur l’intelligence artificielle (IA) et les risques qu’elle présente pour l’humanité.

    En octobre 2014, Elon Musk avait déjà déclaré que le nucléaire serait moins dangereux que l’IA. Trois ans plus tard, le patron de SpaceX s’est encore plus ancré dans sa position, en affirmant que l’IA est un « risque fondamental pour la civilisation humaine ». Elon Musk s’est exprimé à l’occasion du National Governors Association Summer Meeting, une conférence des gouverneurs américains qui s’est tenue récemment. Son intervention a porté sur divers sujets notamment les voitures autonomes et l’IA.


    À propos des voitures autonomes sur lesquelles portait une grande partie de son intervention, le patron de Tesla est convaincu que dans 20 ans, posséder une voiture qui n’est pas autonome sera comme posséder un cheval aujourd'hui. « Les gens qui auront des voitures non autonomes [seront] comme les gens qui ont des chevaux [aujourd’hui] », a-t-il dit. « Il serait tout simplement inhabituel d’utiliser [les voitures non autonomes] comme moyen de transport. » En ce qui concerne les dangers de cette technologie, Elon Musk pense que le plus grand risque serait un « piratage à l'échelle de la flotte » du logiciel qui les contrôle. Il est toutefois plus pessimiste quand il s’agit de l’IA, en faisant allusion à ces technologies autonomes dont l’intelligence pourrait ne pas être maitrisée par les humains.

    Elon Musk a demandé au gouvernement de réglementer de manière proactive l'intelligence artificielle avant que les choses n'aillent trop loin. « En général, voici la façon dont les réglementations sont mises en place », explique-t-il. « Un certain nombre de mauvaises choses se produisent, il y a un tollé public et, après de nombreuses années, une agence de réglementation est mise en place pour réglementer cette industrie. Cela prend une éternité. Cela a été mauvais par le passé, mais pas quelque chose qui représentait un risque fondamental pour l'existence de la civilisation. L'IA est un risque fondamental pour l'existence de la civilisation humaine », dit-il.

    Pour l’entrepreneur en série, cette approche réactive de s’attaquer aux problèmes ne devrait pas être adoptée dans le cas de l’IA. La société ne devrait pas attendre « jusqu'à ce que les gens voient des robots qui descendent dans la rue en tuant des gens », avant d’agir. Pour faire face aux problèmes de l’intelligence artificielle, il propose plutôt d’agir maintenir avant que ça soit trop tard. « L’IA est un cas rare où je pense qu'il faut être proactif dans la réglementation plutôt que réactif. Parce que je pense qu'au moment où nous serons réactifs dans la réglementation de l'IA, il sera trop tard. »

    Comme solution, Elon Musk propose avant tout d’essayer d’apprendre autant que possible au sujet de l’intelligence artificielle. Il dit par ailleurs que son désir de coloniser la planète Mars est, en partie, un plan de secours au cas où l’IA parvient à prendre le dessus sur l’Homme sur Terre.

    Ci-dessous, la vidéo sur le National Governors Association Summer Meeting. Allez à la 43e minute pour écouter Elon Musk.


    Sources : Fortune, Inquisitr

    Et vous ?

    Que pensez-vous des déclarations d’Elon Musk ?
    L’IA présente-t-elle autant de risques qu’il le pense ?
    Si oui, la colonisation de la planète Mars est-elle un plan de secours viable ?
    Contribuez au club : Corrections, suggestions, critiques, ... : Contactez le service news et Rédigez des actualités

  2. #2
    Provisoirement toléré

    Profil pro
    Inscrit en
    juin 2003
    Messages
    357
    Détails du profil
    Informations personnelles :
    Âge : 41
    Localisation : France, Pyrénées Orientales (Languedoc Roussillon)

    Informations forums :
    Inscription : juin 2003
    Messages : 357
    Points : 0
    Points
    0
    Billets dans le blog
    1

    Par défaut Lui a peur des IA

    Evidemment qu'Elon Musk pense ça des IAs, car elles remettront forcement en cause tous les pouvoirs de décisions.
    Avec une IA suffisamment avancé il y aura plus de besoin de manager/directeur/politique enfin plus besoins de gens qui décident pour nous...
    Je pense que ça sera pas pire .....
    De toute façon contre l'IA ils pourra rien y faire vu qu'il n'a aucune connaissance réelle de comment elle fonctionneront.
    Une IA (singularité ) avec l'évolution de la technologie , pourra facilement être mise au point par une petite structure hors de contrôle de ses gens là, donc je comprend pourquoi il balise leurs jour sont compté.

    A votre avis pourquoi on nous bassine avec des films catastrophe sur les IA, pour qu'on soit formaté a " l'humain c mieux qu'une IA pour diriger , on peut avoir plus confiance en l' humain qu’envers l'IA. "

  3. #3
    Membre éclairé
    Homme Profil pro
    -
    Inscrit en
    octobre 2011
    Messages
    249
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Autre

    Informations professionnelles :
    Activité : -

    Informations forums :
    Inscription : octobre 2011
    Messages : 249
    Points : 822
    Points
    822

    Par défaut

    Citation Envoyé par super_navide Voir le message
    Avec une IA suffisamment avancé il y aura plus de besoin de manager/directeur/politique enfin plus besoins de gens qui décident pour nous...
    Je pense qu'on peut sans trop de risque dire que l'humanité est un problème NP. Donc une IA qui arrivent à prendre des décisions, bien que meilleure, le fera avec une méthode faillible, et elle est donc responsable des résultat. Sauf si un humain est au bout de la chaîne décisionnelle pour valider le tout. Je n'espérerais pas trop vite de voir les politiciens disparaître.

  4. #4
    Membre actif

    Homme Profil pro
    Ingénierie logistique
    Inscrit en
    janvier 2013
    Messages
    142
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Bouches du Rhône (Provence Alpes Côte d'Azur)

    Informations professionnelles :
    Activité : Ingénierie logistique
    Secteur : Transports

    Informations forums :
    Inscription : janvier 2013
    Messages : 142
    Points : 298
    Points
    298

    Par défaut

    A titre personnel je considère Elon Musk et ses pairs comme un risque fondamental pour l'existence de la civilisation humaine.

  5. #5
    Membre averti Avatar de a028762
    Homme Profil pro
    Retraité
    Inscrit en
    décembre 2003
    Messages
    387
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Yvelines (Île de France)

    Informations professionnelles :
    Activité : Retraité

    Informations forums :
    Inscription : décembre 2003
    Messages : 387
    Points : 426
    Points
    426

    Par défaut

    Encore la tarte à la crème de la planète Mars comme réponse aux problèmes terrestres !
    Cela fait combien de temps qu'on a touché la lune et qu'on n'y est pas retourné ? 1969 ?
    Alors, la planète Mars, avec un voyage qui prendrait des mois, coûterait une fortune , dont on n'est pas sûr de revenir ?
    Elon Musk contribue notablement aux voitures autonomes ... donc au déploiement de l'IA !
    Quel animateur de buzz !

  6. #6
    Expert confirmé
    Avatar de TiranusKBX
    Homme Profil pro
    Développeur C, C++, C#, Python, PHP, HTML, JS
    Inscrit en
    avril 2013
    Messages
    1 435
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 27
    Localisation : France, Seine et Marne (Île de France)

    Informations professionnelles :
    Activité : Développeur C, C++, C#, Python, PHP, HTML, JS
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : avril 2013
    Messages : 1 435
    Points : 4 800
    Points
    4 800
    Billets dans le blog
    6

    Par défaut

    Pour envoyer plein de monde rapidement sur mars on sait faire mais c'est bien radioactif comme méthode(Projet Orion), le problème est: comment permettre aux migrants sur Mars une capacité de survie supérieure à quelques jours
    merci de me mettre des quand mes messages sont pertinent, et pour les pas contents voici mon service client pour eux

    [Projet en cours] Strategy(nom provisoire) - Advance wars like
    cordova-plugin-file-hash Plugin cordova servant à obtenir le hash d'un fichier

  7. #7
    Membre habitué
    Profil pro
    Développeur informatique
    Inscrit en
    juillet 2007
    Messages
    162
    Détails du profil
    Informations personnelles :
    Âge : 34
    Localisation : France, Rhône (Rhône Alpes)

    Informations professionnelles :
    Activité : Développeur informatique

    Informations forums :
    Inscription : juillet 2007
    Messages : 162
    Points : 163
    Points
    163

    Par défaut

    Elon Musk contribue notablement aux voitures autonomes ... donc au déploiement de l'IA !
    Les voitures autonomes ne sont pas équipées d'une IA...
    C'est juste un programme sophistiqué conçu pour remplir une tâche et résoudre un problème précis. On est loin d'une IA qui a passé le test de Turing...


    Mais je suis d'accord qu'Elon Musk, si un jour IA il y a capable de nous exterminer, aura contribué à la répandre avec tous ses véhicules connectés.

  8. #8
    Membre régulier
    Homme Profil pro
    Étudiant
    Inscrit en
    décembre 2013
    Messages
    37
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Côte d'Or (Bourgogne)

    Informations professionnelles :
    Activité : Étudiant
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : décembre 2013
    Messages : 37
    Points : 117
    Points
    117

    Par défaut

    Je pense qu'il est important de souligner qu'il parle de risque, pas directement de danger.
    Donc il ne considère pas forcement que c'est dangereux mais potentiellement dangereux.

    Je pense quand même que c'est pas un risque fondamentale, du moins comparé aux autres risques actuels. Par exemple je pense que le nucléaire est plus dangereux que l'IA. Dans les deux cas c'est puissant, donc une défaillance / dérive est théoriquement possible... Savoir si l'un et plus risqué que l'autre c'est de la science au doigt mouillé je pense pas que ce soit un débat très intéressant

  9. #9
    Membre averti
    Homme Profil pro
    CTO
    Inscrit en
    août 2012
    Messages
    129
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France

    Informations professionnelles :
    Activité : CTO
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : août 2012
    Messages : 129
    Points : 425
    Points
    425

    Par défaut

    @loukoum82: Sauf que la définition de l'IA est bien plus complexe que "passer le test de turing"... Ce que tu considères aujourd'hui comme "un programme sophistiqué" n'est autre que l'IA d'hier. Plus les recherches en IA avance, moins ils y d'IA et plus il y a d'automatisation, non pas parce c'est "juste de l'automatisation" mais plus parce que dans la tête de ceux qui n'y connaissent rien (rien de péjoratif là-dedans, il est normal de ne pas être tous des spécialistes de tous les domaines) l'IA est quelque chose de complexe, une simulation d'une d'intelligence infiniment plus intelligente que nous, etc. et le faut de réussir à concevoir une IA (réseaux de neurone, agents, etc.) rends la chose moins impressionnante car on comprend son fonctionnement, et on la retire donc de la catégorie "IA".
    D'autre part, limiter la définition de l'IA au "simple" test de Turing est très restrictif, car ça ne concerne que les échanges verbaux (imaginons un être humain incapable de communiquer verbalement (muet, sourd, incapable d'écrire, etc.) mais d'intelligence normal, il serait de fait incapable de passer le test de Turing, mais ça n'en fait pas moins un être intelligent.
    La reconnaissance de notre environnement, la prise de décision, etc. font partie de notre intelligence ! Et c'est justement là-dessus que se basent les voitures automatiques.
    De plus dire que ces programmes ne sont prévu que pour résoudre un "problème spécifique" fait croire que le problème est en soi très simple, ce qui élimine la réalité de la chose. Pour une conduite automatique, il est d'abord être capable de reconnaître son environnement (voitures alentours, signalisation, ...) donc à ce niveau on a déjà de la reconnaissance et de l'apprentissage. Il faut aussi prendre les bonnes décisions (je ralenti, je tourne, je fonce dans le faussé (oui parce que par défaut, le véhicule est prévu pour sacrifier le conducteur s'il faut choisir entre lui et un piéton)), donc en plus de l'apprentissage, il faut analyser la situation en temps réelle.

    Alors oui, la voiture est peut-être pas capable de te tailler une bavette comme le ferait un taxi, mais dire qu'elle n'embarque pas d'IA c'est autre chose...



    Sinon concernant l'article en lui-même c'est toujours la même chose. Dès qu'un mec a une minimum de notoriété il se croit (ou on le fait passer pour) un expert dans tous les domaines. Je rappel juste qu'à la base ce cher monsieur est ingénieur, certes, mais en physique, pas en informatique et encore moins dans une domaine aussi complexe que l'intelligence artificielle. Après il a peut-être étudié l'IA en autodidacte, ce n'est pas interdit, mais à moins de prouver qu'il a la moindre connaissance réelle dans ce domaine, il serait gentil de garder ses opinions dans le cadre de son "expertise". (c'est un peu comme si moi, pauvre petit ingé au IA je me permettait d'aller critiquer les travaux des neurologues alors que je n'y connais rien (sauf que ma renommée était proche de zéro, on m'enverrait juste bouler)).
    De plus, de mon point de vue ce genre de discours me parait plus narcissique qu'autre chose. Comme si le fait d'alerter le peuple, nous pauvres ignorants, permettait à ce genre d'individus (même chose pour Stephen Hawking qui a plus ou moins la même position concernant sur l'IA (encore un physicien, à croire qu'on leur apprend ça pendant leurs études ?)) de se sentir supérieur car eux seuls sont capables de comprendre le réel danger que cache une IA supérieurement intelligente à l'homme et qui donc prendrait des décisions à notre place, que nous sommes incapables même d'imaginer ! Mais forcément mauvaises pour nous, parce que sinon c'est pas drôle... (d'ailleurs ceux qui ont noté la contradiction de ce genre de raisonnement ont droit à un cookie).

  10. #10
    Futur Membre du Club
    Profil pro
    Inscrit en
    janvier 2013
    Messages
    2
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : janvier 2013
    Messages : 2
    Points : 6
    Points
    6

    Par défaut

    J'arrive un peu après la bataille dans cette discussion, mais je crois que ce qu'Elon Musk essaye de dire ici, ce n'est pas que l'IA va inévitablement aboutir à un Skynet exterminateur de la race humaine (cf. Terminator), mais que le potentiel est là ou qu'en tout cas, il y a suffisamment d'incertitude pour ne pas se contenter d'attendre de voir, car les progrès vont être exponentiels juste parce que la concurrence entre les développeurs de l'IA est telle qu'ils vont foncer sans regarder aux conséquences. Tous les secteurs "sensibles" (où la concurrence et la réduction des coûts pourraient se faire au dépends de la sécurité des personnes) se sont vus, au final, régulés par une autorité (transport aérien, transports terrestres, santé, etc.) et des normes. Mais tout cet arsenal s'est construit a posteriori, au fur et à mesure qu'on constatait les dérives et plutôt lentement.

    Elon Musk pense qu'avec l'IA, l'accélération sera telle qu'il sera trop tard pour règlementer ce qui doit l'être et que les conséquences seront rapides et à tous les niveaux de la société, donc incontrôlables, impossibles à stabiliser si on n'anticipe pas. Il n'est pas contre l'IA, mais de ce qu'il en voit, ça peut aller très vite. On est juste à la bourre alors qu'on pourrait déjà encadrer le développement et l'usage.

    @TheLastShot : pas besoin d'être un ingénieur en IA pour comprendre que le secteur des transports va rapidement perdre des centaines de milliers d'emplois au fur et à mesure que les véhicules autonomes arrivent. Pas besoin de faire du développement de réseau de neurones pour comprendre que l'IA va avoir des répercussions dans tous les secteurs ou presque, à différents degrés certes, mais tellement "partout à la fois" que ça peut créer de l'instabilité. Il dit qu'il a été "exposé à de l'IA dernier cri", c'est peut-être de l'esbroufe, mais il n'a pas besoin d'être informaticien pour que tout plein de start-up ou labos lui présentent leurs derniers progrès dans l'espoir de l'intéresser et d'attirer la force d'investissement dont il est capable. Donc à mon avis, il en sait déjà bien plus que nous sur ce que l'IA est capable de faire, même s'il n'est pas lui-même développeur d'IA.

    Je me plante peut-être, mais la révolution internet a changé nos modes de vie en 15 ans, la téléphonie mobile en 10 et on a eu le temps de réguler /réglementer avec un peu de retard mais pas trop. Les applications de l'IA et l'augmentation de ses performances sont plutôt plus rapides et les changements potentiels sont carrément bien plus vastes. Et aucun politicien, aucune institution ne semblent prêts ni même outillés pour réguler.

    Si l'IA permet des prises de décisions qui seront "bonnes" pour notre civilisation dans 99 % des cas, il faudrait déjà être prêts pour faire face aux conséquences des 1 % de mauvaises décisions pour nous. Et oui, ça inclus (il le dit lui-même) les grands décideurs qui risquent de perdre leur valeur. Mais ça inclus surtout tout le monde.

Discussions similaires

  1. [XL-2010] csv : ne pas considérer le ";" comme séparateur à l'ouverture
    Par Steph5 dans le forum Excel
    Réponses: 3
    Dernier message: 26/03/2015, 14h00
  2. Régle pour considérer message comme lu ?
    Par zitoon dans le forum Outlook
    Réponses: 1
    Dernier message: 22/04/2010, 05h34
  3. Peut-on considérer SAS comme un SGBDR
    Par Qings dans le forum Débutez
    Réponses: 2
    Dernier message: 06/02/2010, 18h58
  4. Réponses: 13
    Dernier message: 20/10/2009, 00h26
  5. Peut on considérer Eclipse comme un RAD
    Par ertyup dans le forum Eclipse Java
    Réponses: 1
    Dernier message: 16/04/2009, 16h48

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo