Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

  1. #1
    Chroniqueur Actualités

    Sondage : selon vous, quelles sont les raisons pour lesquelles l'IA peut être dangereuse ?
    Sondage : selon vous, quelles sont les raisons pour lesquelles l'intelligence artificielle peut être dangereuse ?

    En dépit des bénéfices que l'on pourrait tirer du progrès de l'intelligence artificielle et de la robotique, ces deux domaines qui sont parfois associés constituent également une menace pour l'humanité s'ils ne sont pas correctement maîtrisés. Ce n'est toutefois pas eux-mêmes le problème, mais leur utilisation par l'Homme. L'IA n'a pas encore conquis le monde, mais ils pourraient le faire à l'avenir, comme vous l'avez vu dans de nombreux films populaires.

    L'intelligence artificielle ne comprend pas forcément le vrai sens de la sécurité ou de la paix, donc si une IA n'est pas codée correctement ou si une certaine mauvaise commande est donnée ou si elle tombe entre les mains de mauvaises personnes, elle peut être dangereuse. Il y a tellement d'applications IA qui construisent notre vie quotidienne de manière pratique et économique. Le rythme auquel les nouvelles innovations arrivent, tout peut être fait avec une seule commande. La question est de savoir si nous devons nous préoccuper davantage du monde que nous créons ? Faut-il ou non avoir peur de cette "Intelligence" ?

    Étant donné que la technologie de l'IA progresse si rapidement, il est vital pour nous de commencer à débattre des meilleures façons pour l'IA de se développer positivement tout en minimisant son potentiel destructeur. Toute technologie puissante peut être utilisée à mauvais escient. Les chercheurs disent qu'il est peu probable que l'intelligence artificielle manifeste des émotions humaines comme l'amour ou la haine et qu'il n'y a aucune raison de s'attendre à ce que l'IA devienne intentionnellement gentille ou méchante.


    Certains grands esprits tels que le physicien Stephen Hawking suggère que l'IA pourrait être très dangereuse. Lors du National Governors Association Summer Meeting de juillet 2017, Elon Musk a tiré la sonnette d’alarme quant aux dangers que représente l’intelligence artificielle. L'entrepreneur de la Tech, qui déjà en 2014 déclarait que le nucléaire serait moins dangereux que l’intelligence artificielle, a expliqué trois ans plus tard que l’IA représente un risque fondamental pour l’existence de la civilisation humaine. Ces déclarations semblent avoir trouvé un écho chez le professeur Jim Al-Khalili qui avertit que l’intelligence artificielle serait « un plus grand risque pour l’humanité que les changements climatiques et le terrorisme ».


    En 2019, Elon Musk, le patron de Tesla et de SpaceX, réitérait ses avertissements concernant le danger de l’intelligence artificielle (IA). D’après Musk, « l’IA est plus dangereuse que les ogives nucléaires » et il devrait exister un organisme de réglementation supervisant le développement de cette technologie. En 2018, lors d’un briefing à Londres, le Président de la British Science Association a exprimé ses craintes sans détour. Précisant que le Royaume-Uni était le fer de lance de l’intelligence artificielle et rappelant les estimations qui prévoient que cette technologie contribuerait jusqu’à 15 000 milliards de dollars US à l’horizon 2030, le scientifique a indiqué qu’à l’instar de la modification génétique, il y avait un réel risque que l’intelligence artificielle finisse par être perçue comme effrayante et sinistre par le public. Mais comment l'IA peut être dangereuse ?

    Les deepfakes

    Les deepfakes audio et vidéo créés en manipulant des voix et des ressemblances font déjà des ravages. En utilisant l'apprentissage automatique, un sous-ensemble de l'IA impliqué dans le traitement du langage naturel, un clip audio d'un politicien donné pourrait être manipulé pour donner l'impression que cette personne a jeté des opinions racistes ou sexistes alors qu'en fait, elle n'a rien dit de la sorte. Si la qualité du clip est suffisamment élevée pour tromper le grand public et éviter d'être détecté, cela pourrait complètement faire dérailler une campagne politique.

    Les armes autonomes

    L'IA est programmée et est un système automatisé, ce qui signifie qu'elle ne dépend de personne. Il est même possible que la course aux armements nucléaires puisse être remplacée par une course aux armements autonome. Les armes autonomes sont le système automatisé de l'armée qui peut rechercher leurs cibles et viser indépendamment selon des instructions préprogrammées. Et presque tous les pays techniquement avancés du monde développent ces systèmes. Mais, il y a de nombreux risques à avoir ces armes. Il est possible que les guerres futures ne soient pas complètement menées par les humains.

    Le désalignement entre les objectifs et les machines

    Les humains apprécient les machines alimentées par l'IA en raison de leur efficacité. Mais, si les objectifs fixés ne sont pas clairs, cela peut être dangereux. Si une machine n'est pas programmée sur les mêmes objectifs que l'on a, alors il pourrait y avoir une disparité. Par exemple, dans le film Avengers dans lequel Ultron est fait pour apporter la paix dans le monde, Ultron pense que la paix ne peut être atteinte qu'en tuant tous les humains. Il ne connaît pas la valeur de la vie humaine. Littéralement, il y aura la paix, mais il ne restera plus d'humains pour voir cela.

    La manipulation sociale

    Les médias sociaux à l'aide de ses algorithmes autonomes sont très efficaces pour le marketing cible, c'est-à-dire qu'avec l'aide d'informations personnelles, les entreprises peuvent savoir quel type de produit doit être suggéré aux utilisateurs via des publicités. Cet algorithme aide à savoir qui nous sommes, ce que nous aimons. C'est un inconvénient majeur de l'IA. Il peut cibler les gens et diffuser les informations qu'ils souhaitent, dans le format qu'ils souhaitent et rechercher les informations les plus convaincantes.

    Le piratage des mots de passe

    Les réseaux de neurones dans l'IA sont utilisés par les criminels pour détecter et identifier les mots de passe. Les criminels parviennent à déchiffrer une partie des mots de passe à l'aide de réseaux de neurones. Aujourd'hui, il est facilement possible pour une machine de combiner certains nombres et de prédire des mots de passe inconnus. Avec un PC puissant combiné à une IA, vous pouvez essayer plusieurs combinaisons de mots de passe en utilisant des chiffres et des alphabets sans aucune limite.

    Le suivi de l'information sans consentement

    Les machines collectent, suivent et analysent tellement de choses sur une personne, il leur est possible de vous suivre en tant qu'individu et de posséder toutes vos informations. Il est également possible d'utiliser les informations contre cette personne. Toute technologie puissante peut être utilisée à mauvais escient.

    La perte d'emplois

    Alors que l'intelligence artificielle est de plus en plus avancée, elle prendra évidemment le relais des travaux effectués par l'homme. Certaines personnes croient que de nombreux emplois seront également créés grâce à l'intelligence artificielle et que cela peut un peu équilibrer les échelles. Les gens peuvent passer d'un travail physique et répétitif à un travail qui nécessite une réflexion tactique. Et les gens pourraient également avoir plus de temps à consacrer à leurs proches avec des emplois moins exigeants physiquement.

    Cependant, il est plus probable que cela arrive aux personnes qui sont bien qualifiées. Cela pourrait augmenter encore plus l'écart entre les riches et les pauvres. Puisque l'ordinateur n'a pas besoin de salaire, les propriétaires d'entreprises dirigées par l'IA feront tous les bénéfices et s'enrichiront tandis que les humains qui ont été remplacés deviendront encore plus pauvres.

    Le terrorisme de l'intelligence artificielle

    Alors que l'intelligence artificielle peut contribuer énormément au monde, elle peut malheureusement aussi aider les terroristes pour mener des attaques terroristes. Les agences terroristes pourraient utiliser des véhicules automatiques pour livrer et faire exploser des bombes ou créer des fusils qui peuvent suivre les mouvements et tirer ou tirer des roquettes à tête chercheuse sans aucune aide humaine.

    L'atteinte à la vie privée

    La vie privée est un droit fondamental que tout le monde mérite. La vie personnelle d'un individu peut être facilement retracée. Chaque mouvement d'une personne peut être détecté, ce qu'il fait dans sa routine quotidienne peut être connu. Il y a des caméras partout, avec des algorithmes de reconnaissance faciale, qui vous êtes peuvent être facilement connus. L'intelligence artificielle peut atteinte à la vie privée à l'avenir. Aujourd'hui encore, il est possible de vous suivre facilement tout au long de votre journée. Les capacités de collecte de données de l'IA signifient également qu'un calendrier de vos activités quotidiennes peut être créé en accédant à vos données à partir de divers sites de réseaux sociaux.

    La discrimination

    Étant donné que les machines peuvent collecter, suivre et analyser tant de choses sur vous, il est très possible que ces machines utilisent ces informations contre vous. Il n'est pas difficile d'imaginer une compagnie d'assurance vous dire que vous n'êtes pas assurable en fonction du nombre de fois où vous avez été surpris devant la caméra en train de parler sur votre téléphone. Un employeur peut refuser une offre d'emploi en fonction de votre « pointage de crédit social ».

    Et vous ?

    Quelles sont les raisons pour lesquelles l'intelligence artificielle peut être dangereuse ?

    Voir aussi

    Pour Elon Musk l'IA est bien plus dangereuse que l'arme nucléaire alors que Bill Gates estime que l'IA est à la fois porteuse d'espoir et dangereuse

    L'IA représenterait un plus grand risque pour l'humanité que les changements climatiques et le terrorisme, selon un expert

    Chef de l'ONU : « La militarisation de l'intelligence artificielle est un grave danger », Guterres met en garde contre l'impact de la technologie

    L'IA représente-t-elle une menace pour l'humanité ? Non, pour un philosophe, qui estime que l'IA n'est qu'une pseudo-intelligence
    Contribuez au club : Corrections, suggestions, critiques, ... : Contactez le service news et Rédigez des actualités

  2. #2
    Membre habitué
    Pour moi le plus grand danger c'est la réaction des humains quand ils comprendront qu'ils sont inférieurs dans quelques douzaines d'années.

  3. #3
    Membre actif
    Le plus grand danger pour l'homme...c'est l'homme, qui est comme toujours, son propre prédateur.

    Sans intervention au profit du "bien commun", les phases seront probablement :
    - Quelques hommes maîtrisent l'AI au profit de leur idéal de société, et le monde tombe sous le coup d'une dictature.
    - Elle devient réellement trop complexe pour tout cerveau humain et l'humanité, au sens réel du terme, est perdue.

    A moins que la sagesse ne finisse par l'emporter (on peut toujours rêver...), pour empêcher que l'appât du gain ne donne naissance à un monstre...

    La lutte du Bien contre le Mal : une bien ancienne histoire !
    Windows 7 / Delphi Tokyo
    "Les choses ne changent pas. Change ta façon de les voir, cela suffit" Lao Tseu

  4. #4
    Membre éprouvé
    La seule question à se poser est de savoir au service de qui est l'IA. Si je prends l'exemple de la conduite automobile autonome, il y aura forcément un moment ou il faudra se poser la question de qui sauver en cas d'accident :
    Le propriétaire de l'IA quitte à tuer 100 personnes ou alors sauver 100 personnes et tuer le propriétaire de l'IA ?

    A qui l'IA doit-elle être fidèle ? Je n'ai personnellement pas encore la réponse.
    Ceux qui abandonnent une liberté essentielle pour une sécurité minime et temporaire ne méritent ni la liberté ni la sécurité.
    Benjamin Franklin

  5. #5
    Expert éminent
    J'ai voté autre pour une raison simple : l'IA est aussi dangereuse qu'un couteau posé sur la table. Seul, ça ne pose aucun problème. C'est le jour où quelqu'un essaye de l'utiliser sans faire attention ou avec de mauvais desseins que ça peut devenir dangereux.

    Le danger est dans l'utilisateur, pas dans l'outil.
    Site perso
    Recommandations pour débattre sainement

    Références récurrentes :
    The Cambridge Handbook of Expertise and Expert Performance
    L’Art d’avoir toujours raison (ou ce qu'il faut éviter pour pas que je vous saute à la gorge {^_^})

  6. #6
    Membre averti
    Les raisons de la dangerosité de l'I.A : L' être humain et son intelligence naturelle .