Elon Musk met en garde contre le "risque civilisationnel" lié à l'IA lors d'une réunion avec les sénateurs
Elon Musk met en garde contre les menaces liées à l'IA, tandis que Bill Gates affirme qu'elle peut aider à lutter contre la faim dans le monde
les deux appellent toutefois à une réglementation
De nombreux PDG de la Tech ont rencontré mercredi un groupe bipartisan de sénateurs au Sénat américain pour échanger sur les dangers potentiels de l'IA et des possibilités qu'elle offre. Lors de la réunion, qui s'est tenue à huis clos, Elon Musk, PDG de Tesla, a mis en garde de nouveau contre la menace existentielle que représente l'IA pour l'humanité. En revanche, Bill Gates, cofondateur de Microsoft, a déclaré lors de la réunion que la technologie pourrait contribuer à résoudre le problème de la faim dans le monde, et qu'elle présente d'autres bonnes perspectives. Les PDG de Meta, Mark Zuckerberg, et d'OpenAI, Sam Altman, ont également assisté à la réunion.
Musk estime toujours que l'humanité devrait se montrer prudente vis-à-vis de l'IA
La réunion de mercredi a été convoquée par le chef de la majorité au Sénat, le sénateur Chuck Schumer (D., N.Y.). Plus de 60 sénateurs des deux bords ont participé à la réunion avec les PDG de la Tech. Les participants ont discuté des risques liés l'IA, notamment la menace qu'elle représente pour l'humanité, et des possibilités qu'elle offre. « C'était une expérience incroyable et historique où nous avons beaucoup appris, où nous avons commencé notre quête pour traiter cette question imminente si importante qu'est l'IA », a déclaré Schumer à la sortie de la réunion. Le Sénat américain doit légiférer dans un avenir proche pour réglementer la technologie.
À en croire Schumer, deux des allocutions ayant le plus retenu l'attention lors de la réunion sont celles de Musk et de Gates. Le propriétaire de X (anciennement Twitter) aurait averti les sénateurs que l'IA représentait un "risque civilisationnel" pour les gouvernements et les sociétés. En quittant le Capitole après plusieurs heures, Musk a qualifié la réunion d'historique. Musk a également approuvé l'idée d'une nouvelle agence fédérale chargée de superviser l'IA. Interrogé sur la menace contre laquelle il met en garde, il a déclaré à la presse : « les conséquences d'un dysfonctionnement de l'IA sont graves, nous devons donc être proactifs plutôt que réactifs ».
« La question qui se pose ici est celle du risque civilisationnel. Il ne s'agit pas d'opposer un groupe d'humains à un autre. Il s'agit plutôt de savoir s'il s'agit de quelque chose de potentiellement risqué pour tous les humains, où qu'ils se trouvent », a-t-il ajouté. Ensuite, à la question de savoir si l'IA détruira l'humanité, Musk a marqué une pause avant d'ajouter : « il existe une probabilité supérieure à zéro que l'IA nous tue tous. Je pense qu'elle est faible. Mais s'il y a une chance, je pense que nous devrions également prendre en compte la fragilité de la civilisation humaine ». Ces déclarations montrent que Musk a toujours une peur bleue à l'égard de l'IA.
La sénatrice Cynthia Lummis (R-Wyo), qui a assisté à la réunion privée, a déclaré avoir été frappée par le terme "risque civilisationnel" utilisé par Musk. Elle l'a noté dans son carnet et l'a montré à deux journalistes. Musk répète cette mise en garde depuis au moins huit ans, mais n'hésite pas à claquer des dizaines de millions de dollars dans le développement de l'IA. Avec Sam Altman, il a cofondé OpenAI en 2015 (qui a bénéficié d'un capital de départ d'un milliard de dollars). Il a quitté OpenAI en 2018, mais a récemment lancé une nouvelle startup d'IA, X.ai, et le bruit court qu'il a investi des millions de dollars dans l'achat de GPU optimisées pour l'IA.
Il est difficile de savoir exactement la raison pour laquelle Musk tient ce discours tout en continuant d'investir des millions de dollars pour développer l'IA. Des critiques ont déclaré qu'il pourrait s'agir d'une tactique visant à permettre à Musk de ralentir ses concurrents et de passer devant dans la course à l'IA. Quoi qu'il en soit, d'autres personnalités ayant participé à la réunion de mercredi au Sénat américain se sont montrées beaucoup plus optimistes sur le sujet. Selon le sénateur Schumer, Gates a déclaré que la technologie pourrait contribuer à résoudre le problème de la faim dans le monde. Gates a toujours été très optimistes concernant la technologie.
Les grands modèles de langage open source soulèvent plusieurs préoccupations
L'un des débats a porté sur les grands modèles de langage (LLM) open source, qui peuvent être téléchargés et modifiés par le public. Ces modèles permettent aux entreprises et aux chercheurs d'accéder aux dernières technologies d'IA sans avoir à dépenser des millions de dollars pour les former. Selon des sources ayant assisté à la réunion, Tristan Harris, directeur de l'organisation à but non lucratif "Center for Humane Technology", a fait valoir que des acteurs malveillants pouvaient abuser des systèmes d'IA open source, tels que le grand modèle de langage Llama 2 récemment publié en open source par Meta, l'entreprise dirigée par Zuckerberg.
Harris aurait noté que son organisation avait réussi à faire en sorte que le modèle Llama 2 fournisse des instructions sur la manière de créer des composés biologiques dangereux. Cependant, Zuckerberg aurait répliqué en disant que des instructions similaires pouvaient déjà être trouvées sur l'internet. Il aurait ajouté que les modèles open source pouvaient présenter des dangers, mais que Meta essayait de construire cette technologie de la manière la plus sûre possible. Selon le PDG de Meta, l'open source permet de démocratiser l'accès à ces outils, ce qui permet d'uniformiser les règles du jeu et de favoriser l'innovation pour les personnes et les entreprises.
En dehors des PDG bien connus de la Tech américaine, des dirigeants syndicaux, des défenseurs des droits civiques et d'autres personnes ont également participé à la réunion. À un moment donné, Schumer aurait demandé aux invités s'ils étaient d'accord pour dire que le gouvernement devait jouer un rôle dans la réglementation de l'IA. Toutes les personnes présentes auraient levé la main. « Personne n'a hésité à dire qu'il fallait que le gouvernement intervienne », a déclaré Schumer. Selon lui, les entreprises ont compris que même si elles se disent prêtes à installer des garde-fous par elles-mêmes, il y aura toujours des concurrents qui ne le feront pas.
Zuckerberg n'a pas répondu aux questions des journalistes en quittant la réunion. Son équipe a transmis ses remarques préparées depuis l'intérieur de la salle, où il a déclaré qu'il incombait au gouvernement de réglementer l'IA. « Je suis d'avis pour que le Congrès s'engage avec l'IA afin de soutenir l'innovation et les garanties. Il s'agit d'une technologie émergente, il y a d'importants équilibres à trouver, et le gouvernement en est responsable en dernier ressort », a-t-il déclaré. Le PDG d'OpenAI s'est dit surpris par le large consensus qui s'est dégagé dans la salle sur "la nécessité de prendre cette question au sérieux et de la traiter de manière urgente".
« Je pense que tout le monde est d'accord sur le fait qu'il s'agit d'un sujet sur lequel nous avons besoin du leadership du gouvernement. Certains ne sont pas d'accord sur la manière dont cela devrait se passer, mais tous sont d'accord pour dire qu'il s'agit d'une question importante et urgente », a déclaré Altman. Avant la réunion de mercredi, deux dirigeants de la Tech ont averti les sénateurs mardi qu'un frein d'urgence était nécessaire pour les systèmes critiques gérés par l'IA, tels que les réseaux électriques ou l'approvisionnement en eau, afin de protéger les êtres humains des dommages potentiels causés par cette technologie émergente.
Une législation trop stricte pourrait ralentir les progrès dans le domaine de l'IA
Malgré le consensus sur la nécessité de réglementer l'IA - et la promesse de Schumer d'adopter une législation dans un avenir proche - la réunion a également mis en lumière certains des points de tension à venir. Dans le rang des PDG de la Tech ayant participé à la réunion de mercredi au Sénat, certains pensent que des règles trop strictes pourraient ralentir les progrès des États-États dans le domaine de l'IA, ce qui serait problématique pour le pays. Ces dirigeants d'entreprise ont mis en garde contre le fait que si cela arrivait, les États-Unis se verraient dépasser par leurs rivaux et perdraient leur position de leader dans le domaine de la technologie.
Autre sujet de controverse lors de la réunion : la possibilité que les futurs systèmes d'IA puissent anéantir l'humanité. Deb Raji, une chercheuse en IA qui a participé à la réunion de mercredi, a demandé à la salle de se concentrer sur les préjudices actuels, notamment les décisions biaisées en matière de logement, d'embauche ou de condamnation pénale, qui peuvent résulter de systèmes d'IA déployés dans la précipitation, sans garde-fous solides. Lors de son allocution, elle a également plaidé en faveur de l'élaboration de méthodes d'audit pour les systèmes d'IA avant que les entreprises ne développent des systèmes d'IA encore plus puissants.
Par ailleurs, un autre point de tension a concerné les travailleurs qui considèrent l'IA comme un danger potentiel pour leur emploi. La sénatrice Maria Cantwell (D., Wash.) a relaté un moment où la directrice du groupe de défense des intérêts des scénaristes américains Writers Guild of America West (WGAW), Meredith Stiehm, a décrit le point de vue des membres qui sont en grève pour obtenir un nouveau contrat avec les studios hollywoodiens. Les scénaristes sont remontés contre l'incursion de l'IA dans leur profession et refusent de corriger les scénarios générés par l'IA ou que les studios de cinéma utilisent l'IA pour modifier leurs scénarios.
Le directeur de la "Motion Picture Association", un groupe commercial d'Hollywood, était également présent à la réunion. Enfin, la réunion de mercredi a également fait l'objet de quelques critiques. Bien que les organisateurs aient souligné la nature bipartisane du forum, le sénateur Josh Hawley (R-Mo) a déclaré qu'il avait choisi de ne pas y assister. « Je pense que l'idée qu'il s'agit d'une grande avancée d'entendre les plus grands monopoles du monde - pour qu'ils partagent avec nous leur grande sagesse - est une approche totalement erronée », a déclaré Hawley, qui a annoncé un forum bipartisan sur l'IA avec le sénateur Richard Blumenthal (D-Conn.).
Même le caractère confidentiel de la session a suscité des critiques. Hawley s'est également demandé si la réunion n'avait pas été conçue pour empêcher les sénateurs de poser des questions difficiles auxquelles les PDG ne veulent pas répondre. Il a demandé au sénateur Schumer de soumettre au vote une législation sur l'IA. Hawley a déclaré : « il s'agit d'un grand nombre de chants et de danses qui couvrent le fait que rien n'avance en réalité ». Schumer, qui a organisé la réunion avec un groupe bipartisan de trois autres sénateurs, réfute les allégations du sénateur Hawley et a déclaré que le format était conçu pour permettre un débat franc.
Cependant, une question reste en suspens : quels seront les domaines couverts par la législation promise par Schumer ? Les questions soulevées précédemment par les participants à la réunion de mercredi couvrent un éventail de problèmes potentiels impliquant des domaines ésotériques du droit. En voici quelques exemples : les violations des droits d'auteur, les atteintes à la vie privée, la discrimination raciale, les liens économiques avec la Chine et l'utilisation de l'IA par le gouvernement à des fins militaires ou autres. En attendant qu'un projet de loi soit proposé, les critiques estiment que la réunion n'a pas répondu aux attentes des consommateurs.
Et vous ?
Quel est votre avis sur le sujet ?
Voir aussi
Répondre avec citation
Envoyé par Mathis Lucas
Partager