IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Intelligence artificielle Discussion :

Le plus grand risque de l'IA n'est pas la « conscience », mais les entreprises qui la contrôlent


Sujet :

Intelligence artificielle

  1. #1
    Chroniqueur Actualités
    Avatar de Bruno
    Homme Profil pro
    Rédacteur technique
    Inscrit en
    Mai 2019
    Messages
    1 824
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Cameroun

    Informations professionnelles :
    Activité : Rédacteur technique
    Secteur : High Tech - Produits et services télécom et Internet

    Informations forums :
    Inscription : Mai 2019
    Messages : 1 824
    Points : 36 050
    Points
    36 050
    Par défaut Le plus grand risque de l'IA n'est pas la « conscience », mais les entreprises qui la contrôlent
    Le plus grand risque de l'IA n'est pas la « conscience », mais les entreprises qui la contrôlent,
    selon la chercheuse Meredith Whittaker

    En réaction aux propos de Geoffrey Hinton, un pionnier de l’IA qui a quitté Google pour avertir que l’IA pourrait bientôt surpasser les humains en intelligence et apprendre à détruire l’humanité par elle-même, Meredith Whittaker, une chercheuse en intelligence artificielle (IA) qui a également quitté Google en 2019 après avoir dénoncé les pratiques de l’entreprise en matière d’IA militaire et éthique indique que l'alarmisme de Geoffrey Hinton détourne l'attention de menaces plus pressantes.

    Whittaker critique la vision alarmiste de Hinton, qu’elle juge distrayante des menaces plus urgentes, comme le contrôle des technologies d’IA par les grandes corporations et les conséquences sociales et politiques de leur déploiement. Elle appelle à une plus grande solidarité et à une plus grande action des travailleurs du secteur technologique pour s’opposer aux dommages causés par l’IA.

    Nom : MW.jpg
Affichages : 20923
Taille : 26,5 Ko

    Dans une sortie médiatique sur l’évolution et les risques de l’intelligence artificielle, Jürgen Schmidhuber, considéré comme le « père de l’IA », a déclaré que la montée de l’IA est inévitable et ne doit pas être crainte, car elle vise à améliorer la vie humaine. Il se distingue ainsi de certains de ses pairs, comme Geoffrey Hinton, qui ont quitté Google pour dénoncer la course à l’armement de l’IA et ses dangers potentiels.

    Schmidhuber affirme que la concurrence entre les gouvernements, les universités et les entreprises est inévitable et qu’il faut apprendre à vivre avec une IA qui dépassera l’intelligence humaine et qui ne s’intéressera pas aux gens. Il minimise les risques de l’IA par rapport aux dangers nucléaires et aux nouveaux cultes religieux qui pourraient émerger à partir de l’IA.

    Comme Meredith Whittaker, Schmidhuber se positionne en rupture avec Geoffrey Hinton, qui continue d’exprimer son inquiétude face à la course à l’armement de l’IA et à ses conséquences potentiellement néfastes pour l’humanité. Hinton, qui est appelé le « parrain » de l’IA, a remporté le prix Turing en 2018 pour son travail sur l’apprentissage profond, qui est le fondement de la plupart des applications d’IA actuelles. Sa démission de Google cette semaine, après dix ans de collaboration avec l’entreprise, vise à lui permttre de parler plus librement de l’IA. Il a déclaré que les entreprises comme Google avaient cessé d’être des gardiens responsables pour l’IA face à la concurrence pour faire avancer la technologie.

    Schmidhuber, quant à lui, affirme que la montée de l’IA est inévitable et ne doit pas être crainte, car elle vise à améliorer la vie humaine. Il dit que son ancienne devise est de rendre la vie humaine plus longue, plus saine et plus facile. Il reconnaît qu’il existe une compétition entre les gouvernements, les universités et les entreprises pour faire progresser l’IA, ce qui crée une course aux armements, mais il dit qu’on ne peut pas l’arrêter et qu’on ne devrait pas non plus.

    Whittaker critique la vision alarmiste de Hinton, qu’elle juge distrayante des menaces plus urgentes, comme le contrôle des technologies d’IA par les grandes corporations et les conséquences sociales et politiques de leur déploiement. Elle explique que l’IA n’est pas une entité autonome, mais un ensemble de systèmes construits par des humains et influencés par leurs intérêts et leurs biais. Elle affirme que l’IA pose des problèmes de justice, de droits humains, de démocratie et d’environnement, qui ne peuvent être résolus par des solutions techniques ou des régulations superficielles.

    Elle appelle à une plus grande solidarité et à une plus grande action des travailleurs du secteur technologique pour s’opposer aux dommages causés par l’IA. Elle raconte son expérience d’organisatrice au sein de Google, où elle a participé à la mobilisation contre le projet Maven, un contrat avec le Pentagone pour développer une technologie de vision par ordinateur pour les drones militaires. Elle décrit les représailles qu’elle a subies de la part de Google, qui a tenté de la réduire au silence et de la licencier. Elle souligne l’importance du soutien mutuel et de la création d’espaces collectifs pour les travailleurs qui veulent dénoncer les abus et les injustices.

    Whittaker conclut en disant qu’elle est optimiste quant à la capacité des gens à se rassembler et à se battre pour un avenir meilleur, où l’IA serait au service du bien commun et non des profits privés. Elle cite l’exemple de Signal, une application de messagerie sécurisée dont elle est la présidente, qui fonctionne sans publicité ni collecte de données personnelles.

    Source : Fast company

    Et vous ?

    Que pensez-vous des arguments de Geoffrey Hinton pour soutenir sa thèse sur le risque de l’IA consciente ?

    Quels sont les enjeux éthiques et politiques de la recherche en IA, notamment en ce qui concerne la diversité et la représentativité des chercheurs et des sujets d’étude ?

    Quelles sont les stratégies et les ressources dont disposent les travailleurs du secteur technologique pour s’organiser et se protéger face aux pressions et aux représailles des employeurs ?

    Voir aussi :

    L'essor de l'intelligence artificielle est inévitable, mais ne doit pas être craint, selon le « père de l'IA » Jürgen Schmidhuber

    Les législateurs de l'UE s'accordent sur un projet de règles plus strictes en matière d'IA, les IA génératives comme ChatGPT devraient donner un résumé détaillé des données de formation sous copyright

    La Chine procède à une première arrestation concernant des fake news générées par ChatGPT, la fausse information publiée sur les médias sociaux aurait obtenu plus de 15 000 clics

    Les étudiants sont favorables aux outils d'IA tels que ChatGPT dans l'enseignement, plus d'un tiers les utilisent, mais 62 % pensent que recourir à ces outils lors des examens est une forme de triche

    Google annonce la disponibilité générale de Bard, sa réponse au chatbot ChatGPT d'OpenAI, dans 180 pays : que peuvent en attendre les travailleurs de la filière du développement informatique ?
    Contribuez au club : corrections, suggestions, critiques, ... Contactez le service news et Rédigez des actualités

  2. #2
    Membre régulier
    Homme Profil pro
    Formateur suite Adobe, Blender, et écrivain de SF
    Inscrit en
    Janvier 2005
    Messages
    34
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 55
    Localisation : France, Nord (Nord Pas de Calais)

    Informations professionnelles :
    Activité : Formateur suite Adobe, Blender, et écrivain de SF

    Informations forums :
    Inscription : Janvier 2005
    Messages : 34
    Points : 99
    Points
    99
    Par défaut De l'anticipation, en vrai.
    Les IA sous le contrôle des entreprises et des gouvernements vont se développer de façon certaines et dans des directions connus dès maintenant : la suprématie militaire et une augmentation astronomique des profits.
    Ce qu'on ne sait pas, c'est jusqu'où ça peut aller.

    Entre les IA qui seront au service des traders, celles au service des services secrets ou des marchands d'armes c'est bel et bien de ceux qui paient les développeurs dont il faut se méfier.
    Les IA au service de la population dont GPT, Llama (pour peu qu'on ne la programme pas à mettre en avant des infos orientées) et les Open Source pourraient aider tout le monde à aller mieux, MAIS... les gouvernements auront aussi leurs IA, spécialistes en ingénierie sociale, contrôle des foules et j'en passe, pour contrer toute avancée qui n'irait pas dans le "bon" sens.
    Reste que l'OS pourrait donner les meilleurs fruits, en local, sans filtre et sans pub, pour soutenir/guider/enseigner les populations dans une révolution qui est (presque) sortie du chapeau, il y a moins d'un an, et va retourner notre société bien plus vite que ne l'a déjà fait internet.

    Du coup... désolé mais avec un tel sujet, je ne pouvais pas ne pas faire la promo de mon roman (sauce policier, sous pseudo Robert G. Forge) sur ce même thème : "Nouvelle Conscience".
    La lutte de plusieurs IA entre elles, au service d'intérêts divers, dans une guerre invisible.
    Formateur Adobe/Blender/écriture | Ecrivain de SF > Nouvelle Conscience (IA et polar)

  3. #3
    Membre émérite
    Homme Profil pro
    Étudiant
    Inscrit en
    Novembre 2021
    Messages
    970
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Drôme (Rhône Alpes)

    Informations professionnelles :
    Activité : Étudiant

    Informations forums :
    Inscription : Novembre 2021
    Messages : 970
    Points : 2 625
    Points
    2 625
    Par défaut
    Enfin des propos censé sur l'IA, ça change. Félicitation à Meredith Whittaker.

    Et surtout, enfin des propos prenant la défense des libertés individuels, contrairement aux propos type "les IA sont dangereuses car elle permettent de créer des discours de haine, des contenus illégaux, d'être utilisé par des mineurs...). Ce genre de propos est implicitement contre les IA décentralisés, sans contrôle des grandes entreprises ; et se place donc en contradiction avec Meredith Whittaker.

  4. #4
    Membre chevronné
    Profil pro
    Développeur Web
    Inscrit en
    Février 2008
    Messages
    2 050
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations professionnelles :
    Activité : Développeur Web

    Informations forums :
    Inscription : Février 2008
    Messages : 2 050
    Points : 2 087
    Points
    2 087
    Par défaut
    Cette nana me donne l'impression qu'elle n'a pas seulement une jolie tête, mais aussi quelque chose qui fonctionne bien dedans.

    Je ne sais pas jusqu'à quel point je peux me prononcer sur les biais cognitifs qui peuvent lier les deux assertions.

    Au demeurant elle semble optimiste, espérons que là-dessus elle ait raison.
    Alors si on lit bien, elle est optimiste, en pensant que nous allons prendre au sérieux son éclairage, sur d'autres menaces que celles déjà exprimées.

Discussions similaires

  1. Réponses: 0
    Dernier message: 12/06/2022, 09h29
  2. Réponses: 3
    Dernier message: 30/03/2019, 09h59
  3. Réponses: 2
    Dernier message: 09/09/2018, 13h38
  4. Réponses: 24
    Dernier message: 09/09/2018, 12h14
  5. Quelles sont les entreprises qui contribuent le plus aux projets open source ?
    Par Michael Guilloux dans le forum Logiciels Libres & Open Source
    Réponses: 8
    Dernier message: 04/03/2018, 22h09

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo