1 pièce(s) jointe(s)
Le plus grand risque de l'IA n'est pas la « conscience », mais les entreprises qui la contrôlent
Le plus grand risque de l'IA n'est pas la « conscience », mais les entreprises qui la contrôlent,
selon la chercheuse Meredith Whittaker
En réaction aux propos de Geoffrey Hinton, un pionnier de l’IA qui a quitté Google pour avertir que l’IA pourrait bientôt surpasser les humains en intelligence et apprendre à détruire l’humanité par elle-même, Meredith Whittaker, une chercheuse en intelligence artificielle (IA) qui a également quitté Google en 2019 après avoir dénoncé les pratiques de l’entreprise en matière d’IA militaire et éthique indique que l'alarmisme de Geoffrey Hinton détourne l'attention de menaces plus pressantes.
Whittaker critique la vision alarmiste de Hinton, qu’elle juge distrayante des menaces plus urgentes, comme le contrôle des technologies d’IA par les grandes corporations et les conséquences sociales et politiques de leur déploiement. Elle appelle à une plus grande solidarité et à une plus grande action des travailleurs du secteur technologique pour s’opposer aux dommages causés par l’IA.
Dans une sortie médiatique sur l’évolution et les risques de l’intelligence artificielle, Jürgen Schmidhuber, considéré comme le « père de l’IA », a déclaré que la montée de l’IA est inévitable et ne doit pas être crainte, car elle vise à améliorer la vie humaine. Il se distingue ainsi de certains de ses pairs, comme Geoffrey Hinton, qui ont quitté Google pour dénoncer la course à l’armement de l’IA et ses dangers potentiels.
Schmidhuber affirme que la concurrence entre les gouvernements, les universités et les entreprises est inévitable et qu’il faut apprendre à vivre avec une IA qui dépassera l’intelligence humaine et qui ne s’intéressera pas aux gens. Il minimise les risques de l’IA par rapport aux dangers nucléaires et aux nouveaux cultes religieux qui pourraient émerger à partir de l’IA.
Comme Meredith Whittaker, Schmidhuber se positionne en rupture avec Geoffrey Hinton, qui continue d’exprimer son inquiétude face à la course à l’armement de l’IA et à ses conséquences potentiellement néfastes pour l’humanité. Hinton, qui est appelé le « parrain » de l’IA, a remporté le prix Turing en 2018 pour son travail sur l’apprentissage profond, qui est le fondement de la plupart des applications d’IA actuelles. Sa démission de Google cette semaine, après dix ans de collaboration avec l’entreprise, vise à lui permttre de parler plus librement de l’IA. Il a déclaré que les entreprises comme Google avaient cessé d’être des gardiens responsables pour l’IA face à la concurrence pour faire avancer la technologie.
Schmidhuber, quant à lui, affirme que la montée de l’IA est inévitable et ne doit pas être crainte, car elle vise à améliorer la vie humaine. Il dit que son ancienne devise est de rendre la vie humaine plus longue, plus saine et plus facile. Il reconnaît qu’il existe une compétition entre les gouvernements, les universités et les entreprises pour faire progresser l’IA, ce qui crée une course aux armements, mais il dit qu’on ne peut pas l’arrêter et qu’on ne devrait pas non plus.
Whittaker critique la vision alarmiste de Hinton, qu’elle juge distrayante des menaces plus urgentes, comme le contrôle des technologies d’IA par les grandes corporations et les conséquences sociales et politiques de leur déploiement. Elle explique que l’IA n’est pas une entité autonome, mais un ensemble de systèmes construits par des humains et influencés par leurs intérêts et leurs biais. Elle affirme que l’IA pose des problèmes de justice, de droits humains, de démocratie et d’environnement, qui ne peuvent être résolus par des solutions techniques ou des régulations superficielles.
Elle appelle à une plus grande solidarité et à une plus grande action des travailleurs du secteur technologique pour s’opposer aux dommages causés par l’IA. Elle raconte son expérience d’organisatrice au sein de Google, où elle a participé à la mobilisation contre le projet Maven, un contrat avec le Pentagone pour développer une technologie de vision par ordinateur pour les drones militaires. Elle décrit les représailles qu’elle a subies de la part de Google, qui a tenté de la réduire au silence et de la licencier. Elle souligne l’importance du soutien mutuel et de la création d’espaces collectifs pour les travailleurs qui veulent dénoncer les abus et les injustices.
Whittaker conclut en disant qu’elle est optimiste quant à la capacité des gens à se rassembler et à se battre pour un avenir meilleur, où l’IA serait au service du bien commun et non des profits privés. Elle cite l’exemple de Signal, une application de messagerie sécurisée dont elle est la présidente, qui fonctionne sans publicité ni collecte de données personnelles.
Source : Fast company
Et vous ?
:fleche: Que pensez-vous des arguments de Geoffrey Hinton pour soutenir sa thèse sur le risque de l’IA consciente ?
:fleche: Quels sont les enjeux éthiques et politiques de la recherche en IA, notamment en ce qui concerne la diversité et la représentativité des chercheurs et des sujets d’étude ?
:fleche: Quelles sont les stratégies et les ressources dont disposent les travailleurs du secteur technologique pour s’organiser et se protéger face aux pressions et aux représailles des employeurs ?
Voir aussi :
:fleche: L'essor de l'intelligence artificielle est inévitable, mais ne doit pas être craint, selon le « père de l'IA » Jürgen Schmidhuber
:fleche: Les législateurs de l'UE s'accordent sur un projet de règles plus strictes en matière d'IA, les IA génératives comme ChatGPT devraient donner un résumé détaillé des données de formation sous copyright
:fleche: La Chine procède à une première arrestation concernant des fake news générées par ChatGPT, la fausse information publiée sur les médias sociaux aurait obtenu plus de 15 000 clics
:fleche: Les étudiants sont favorables aux outils d'IA tels que ChatGPT dans l'enseignement, plus d'un tiers les utilisent, mais 62 % pensent que recourir à ces outils lors des examens est une forme de triche
:fleche: Google annonce la disponibilité générale de Bard, sa réponse au chatbot ChatGPT d'OpenAI, dans 180 pays : que peuvent en attendre les travailleurs de la filière du développement informatique ?
De l'anticipation, en vrai.
Les IA sous le contrôle des entreprises et des gouvernements vont se développer de façon certaines et dans des directions connus dès maintenant : la suprématie militaire et une augmentation astronomique des profits.
Ce qu'on ne sait pas, c'est jusqu'où ça peut aller.
Entre les IA qui seront au service des traders, celles au service des services secrets ou des marchands d'armes c'est bel et bien de ceux qui paient les développeurs dont il faut se méfier.
Les IA au service de la population dont GPT, Llama (pour peu qu'on ne la programme pas à mettre en avant des infos orientées) et les Open Source pourraient aider tout le monde à aller mieux, MAIS... les gouvernements auront aussi leurs IA, spécialistes en ingénierie sociale, contrôle des foules et j'en passe, pour contrer toute avancée qui n'irait pas dans le "bon" sens.
Reste que l'OS pourrait donner les meilleurs fruits, en local, sans filtre et sans pub, pour soutenir/guider/enseigner les populations dans une révolution qui est (presque) sortie du chapeau, il y a moins d'un an, et va retourner notre société bien plus vite que ne l'a déjà fait internet.
Du coup... désolé mais avec un tel sujet, je ne pouvais pas ne pas faire la promo de mon roman (sauce policier, sous pseudo Robert G. Forge) sur ce même thème : "Nouvelle Conscience".
La lutte de plusieurs IA entre elles, au service d'intérêts divers, dans une guerre invisible.
