3 pièce(s) jointe(s)
IA : « C'est notre dernière opportunité de nous réveiller », prévient un économiste
« C'est notre dernière opportunité de nous réveiller », prévient un économiste qui estime que l'IA pourrait déstabiliser la démocratie
et réduire les emplois si elle est mal orientée
L’intelligence artificielle est souvent présentée comme une source de progrès et de richesse pour l’humanité. Mais selon un économiste de renom, elle pourrait aussi être une menace pour notre avenir. Daron Acemoglu, professeur au MIT et co-auteur du livre The Narrow Corridor: States, Societies, and the Fate of Liberty, met en garde contre les dangers d’une IA mal orientée, qui pourrait accroître les inégalités, réduire l’emploi, et même déstabiliser la démocratie.
Depuis l'émergence explosive de ChatGPT l'hiver dernier, la plus grande préoccupation pour de nombreuses personnes est de savoir si ces outils vont bientôt écrire, coder, analyser, réfléchir, composer, concevoir, illustrer et ainsi remplacer les travailleurs. À cet égard, la Silicon Valley et les entreprises américaines sont curieusement unies dans leur optimisme. Oui, certaines personnes pourraient y perdre, reconnaissent-elles. Mais il n’y a pas lieu de paniquer. L’IA va nous rendre plus productifs, et ce sera formidable pour la société. En fin de compte, la technologie l’est toujours.
« Les économistes considéraient le changement technologique comme quelque chose d'étonnant », déclare Katya Klinova, responsable du département IA, travail et économie de l'ONG Partnership on AI. « De quelle quantité avons-nous besoin ? Autant que possible. Quand ? Hier. Où ? Partout ». Résister à la technologie, c’était inviter à la stagnation, à la pauvreté et à l’obscurité. D’innombrables modèles économiques, ainsi que toute l’histoire moderne, semblaient prouver une équation simple et irréfutable : technologie = prospérité pour tous.
Il n’y a qu’un seul problème avec cette formulation : elle s’avère fausse. En tout cas d'après un économiste qui fait tout pour tirer la sonnette d’alarme.
La remise en question
Dans une interview, Acemoglu explique comment il a changé d’avis sur l’impact de la technologie sur l’économie. Il reconnaît qu’il faisait partie du consensus dominant parmi les économistes, qui voyait la technologie comme une force incontestable de bien. Selon cette vision, l’innovation permet d’augmenter la productivité, la croissance, et le niveau de vie de tous. Acemoglu cite l’exemple de la révolution industrielle, qui a permis de sortir des millions de personnes de la pauvreté et de créer de nouvelles opportunités.
Mais il souligne aussi que la technologie n’est pas neutre, et qu’elle dépend des choix politiques et sociaux qui la façonnent. Il rappelle que la révolution industrielle a aussi engendré des coûts sociaux et environnementaux énormes, et qu’elle a été accompagnée de luttes politiques et de réformes institutionnelles pour garantir une répartition plus équitable des bénéfices. Il affirme que nous sommes aujourd’hui à un tournant historique, où l’IA pourrait avoir des conséquences encore plus radicales que les précédentes vagues d’innovation.
« La prospérité généralisée du passé n'était pas le résultat de gains automatiques et garantis du progrès technologique », estime Acemoglu. « Nous bénéficions du progrès, principalement parce que nos prédécesseurs ont fait en sorte que le progrès profite à un plus grand nombre de personnes ».
L'impact des progrès technologiques
En 2008, il a publié un manuel destiné aux étudiants diplômés qui soutenait la doctrine selon laquelle la technologie est toujours bonne. « Je suivais le canon des modèles économiques, et dans tous ces modèles, le changement technologique est le principal moteur du PIB par habitant et des salaires », a expliqué Acemoglu. « Je ne les ai pas remis en question ».
Mais à mesure qu'il y réfléchissait davantage, il commença à se demander s'il n'y avait pas quelque chose de plus à raconter dans l'histoire. Le premier tournant s’est produit dans un article sur lequel il a travaillé avec l’économiste David Autor. Il s’agissait d’un graphique frappant qui représentait les revenus des hommes américains sur cinq décennies, corrigés de l’inflation. Au cours des années 1960 et au début des années 1970, les salaires de chacun ont augmenté en même temps, quel que soit le niveau d'éducation. Mais ensuite, vers 1980, les salaires des titulaires de diplômes supérieurs ont commencé à monter en flèche, tandis que les salaires des diplômés du secondaire et des décrocheurs ont chuté. Quelque chose rendait manifestement pire la vie des Américains les moins instruits. Était-ce quelque chose de technologique ?
Acemoglu avait le pressentiment que c'était le cas. Avec Pascual Restrepo, l'un de ses étudiants de l'époque, il a commencé à considérer l'automatisation comme quelque chose qui fait simultanément deux choses opposées : elle vole des tâches aux humains, tout en créant de nouvelles tâches pour les humains. Selon lui et Restrepo, le sort des travailleurs dépend en grande partie de l’équilibre entre ces deux actions. Lorsque les tâches nouvellement créées compensent les tâches volées, les travailleurs s’en sortent bien : ils peuvent se déplacer vers de nouveaux emplois qui sont souvent mieux rémunérés que les anciens. Mais lorsque les tâches volées dépassent les nouvelles tâches, les travailleurs déplacés n’ont nulle part où aller. Dans des travaux empiriques ultérieurs, Acemoglu et Restrepo ont montré que c’était exactement ce qui s’était passé. Au cours des quatre décennies qui ont suivi la Seconde Guerre mondiale, les deux types de tâches se sont équilibrés. Mais au cours des trois décennies suivantes, les tâches volées ont largement dépassé les nouvelles tâches. En bref, l’automatisation allait dans les deux sens. Parfois c'était bien, et parfois c'était mal.
C’était le mauvais côté dont les économistes n’étaient toujours pas convaincus. Acemoglu et Restrepo, à la recherche de preuves empiriques supplémentaires, se sont donc concentrés sur les robots. Ce qu’ils ont découvert est stupéfiant*: depuis 1990, l’introduction de chaque robot supplémentaire a réduit l’emploi d’environ six personnes, tout en réduisant de manière mesurable les salaires. « Cela m'a ouvert les yeux », a déclaré Acemoglu. « Les gens pensaient qu'il ne serait pas possible d'avoir des effets aussi négatifs de la part des robots ».
De nombreux économistes, s'accrochant à la doctrine technologique, ont rejeté les effets des robots sur les travailleurs humains comme un « phénomène transitoire ». En fin de compte, insistaient-ils, la technologie s’avérerait bénéfique pour tout le monde. Mais Acemoglu a trouvé ce point de vue insatisfaisant. Peut-on vraiment qualifier de « transitoire » quelque chose qui dure depuis trois ou quatre décennies ? Selon ses calculs, les robots avaient mis au chômage plus d’un demi-million d’Américains. Peut-être qu’à long terme, les avantages de la technologie finiront par profiter à la plupart des gens. Mais comme a un jour dit sur le ton de la plaisanterie l’économiste John Maynard Keynes, à long terme, nous sommes tous morts.
Un changement de cap
Acemoglu distingue deux types d’IA: l’IA de remplacement et l’IA de renforcement. L’IA de remplacement vise à substituer les travailleurs humains par des machines, dans des tâches routinières ou cognitives. L’IA de renforcement vise à compléter les capacités humaines, dans des tâches créatives ou complexes. Acemoglu soutient que l’IA de remplacement est actuellement dominante, et qu’elle pose de graves problèmes pour l’économie et la société. Il explique que l’IA de remplacement réduit la demande de travail, ce qui entraîne une baisse des salaires, une hausse du chômage, et une concentration des revenus entre les mains d’une élite qui contrôle les technologies. Il ajoute que l’IA de remplacement diminue aussi la qualité du travail, en le rendant plus monotone, plus surveillé, et moins autonome. Il craint que l’IA de remplacement ne finisse par éroder le pouvoir de négociation et la représentation des travailleurs, et par affaiblir les institutions démocratiques.
Acemoglu partage ces terribles avertissements pour ne pas exhorter les travailleurs à résister complètement à l’IA, ni pour nous résigner à compter les années qui nous mèneront à notre catastrophe économique. Il voit la possibilité d'un résultat bénéfique pour l'IA : « la technologie que nous avons entre nos mains a toutes les capacités pour apporter beaucoup de bien », mais seulement si les travailleurs, les décideurs politiques, les chercheurs et peut-être même quelques magnats de la technologie aux idées nobles travaillent dans cet objectif. Compte tenu de la rapidité avec laquelle ChatGPT s'est répandu sur le lieu de travail (81 % des grandes entreprises interrogées dans une enquête ont déclaré utiliser déjà l'IA pour remplacer le travail répétitif), Acemoglu exhorte la société à agir rapidement. Et sa première tâche est ardue : nous déprogrammer tous de ce qu’il appelle le « techno-optimisme aveugle » adopté par « l’oligarchie moderne ».
Acemoglu plaide pour un changement de cap, vers une IA de renforcement, qui serait plus bénéfique pour l’humanité. Il propose de réorienter les incitations économiques et les politiques publiques, pour favoriser le développement et l’adoption de technologies qui augmentent la productivité et la créativité des travailleurs, plutôt que de les remplacer. Il appelle à une régulation plus forte de l’IA, pour éviter les abus de pouvoir, les atteintes à la vie privée, et les biais discriminatoires. Il invite à une participation plus large des travailleurs, des consommateurs, et des citoyens, dans la conception et le contrôle de l’IA, pour qu’elle réponde à leurs besoins et à leurs valeurs. Il espère que ces mesures permettront de créer une IA plus inclusive, plus éthique, et plus démocratique.
« C'est notre dernière opportunité de nous réveiller »
Acemoglu conclut son interview en lançant un avertissement: « C’est la dernière opportunité pour nous de nous réveiller ». Il estime que nous avons encore le temps de changer le cours des choses, mais que nous devons agir vite et de manière coordonnée, avant que l’IA ne devienne trop puissante et trop incontrôlable. Il affirme que l’IA est un défi existentiel pour l’humanité, et que nous devons choisir entre deux scénarios: un scénario de cauchemar, où l’IA nous domine et nous appauvrit, ou un scénario de rêve, où l’IA nous libère et nous enrichit. Il espère que nous saurons faire le bon choix.
Source : Interview Daron Acemoglu
Et vous ?
:fleche: Que pensez-vous des propos de Daron Acemoglu ? Partagez-vous son point de vue ? Si oui, dans quelle mesure ? Si non, pourquoi ?
:fleche: Quelle est votre opinion sur l’IA de remplacement et l’IA de renforcement? Laquelle préférez-vous et pourquoi?
:fleche: Quels sont les risques et les opportunités de l’IA pour l’économie et la société? Comment les anticiper et les gérer?
:fleche: Quel rôle devraient jouer les travailleurs, les consommateurs, et les citoyens, dans la régulation de l’IA? Quels sont les moyens et les enjeux de leur participation?
2 pièce(s) jointe(s)
Elon Musk déclare au PM UK qu'avec l'IA nous n'aurons plus besoin de travailler pour gagner nos vies
Elon Musk déclare au Premier ministre britannique qu'avec l'IA nous n'aurons plus besoin de travailler pour gagner nos vies,
l'IAG nous conduirait à une ère où « aucun travail ne serait nécessaire »
Lors d’une conférence sur l’IA organisée par le gouvernement britannique, Musk a partagé sa vision du futur avec Sunak, qui lui a demandé comment il voyait le rôle du travail dans une société dominée par l’IA. Musk a répondu que l’IA sera si avancée qu’elle pourra accomplir toutes les tâches que les humains font actuellement, et même mieux. Il a ajouté que cela signifiera que les humains n’auront plus besoin de travailler pour gagner leur vie, mais qu’ils devront trouver d’autres moyens de se sentir utiles et heureux.
Rishi Sunak, Premier ministre britannique, s'est heurté à Elon Musk sur la valeur d'avoir un emploi après que le magnat de la technologie lui ait dit qu'à terme, l'intelligence artificielle signifierait que les gens n'auraient plus à travailler. Le milliardaire l'a assuré au Premier ministre lors d’une discussion jeudi à la fin de son sommet sur l’IA en prédisant que le « génie magique » amènerait un moment où « aucun travail ne serait nécessaire ».
Sunak, sous la pression de son propre parti pour remettre davantage de Britanniques au travail, a interrogé Musk sur les « changements survenus sur le marché du travail », affirmant que l’idée que l’IA vole des emplois était « toujours une préoccupation ». Mais le magnat de la technologie a parlé de cette idée avec enthousiasme, déclarant : « Il viendra un moment où aucun travail ne sera nécessaire. » Musk a également déclaré à Sunak que l’IA signifierait « vous pouvez faire un travail si vous voulez un travail… mais l’IA fera tout ».
« Je ne sais pas si cela met les gens à l'aise ou mal à l'aise », a ajouté le propriétaire de X, anciennement connu sous le nom de Twitter, sous les rires du public de chefs d'entreprise lors de l'événement à Londres.
« Je suis quelqu'un qui croit que le travail donne du sens », a répondu Sunak. Le Premier ministre a tenté de souligner l’importance d’avoir un emploi, arguant que cela soulèverait des questions sur « d’où vient cette motivation, cet objectif » si l’IA remplaçait les travailleurs.
Musk entrevoit une « abondance » d'opportunités pour de nouveaux services
Rejetant les craintes selon lesquelles l’IA détruirait l’économie, Musk a déclaré qu’il y aurait une « abondance » d’opportunités pour de nouveaux services. « Nous ne bénéficierons pas d’un revenu de base universel, nous bénéficierons d’un revenu universel élevé », a-t-il déclaré.
Sunak a reconnu que le risque que l’IA détruise des emplois provoquait une « anxiété », mais a déclaré que les Britanniques devraient considérer la nouvelle technologie comme un « copilote ». Il a déclaré qu’un système « d’éducation de classe mondiale » était le meilleur moyen d’aider les gens à s’adapter à une révolution sur le marché du travail.
Sunak a également déclaré à Musk qu'il souhaitait que les Britanniques soient plus disposés à renoncer à « la sécurité d'un salaire régulier et à se sentir à l'aise avec l'échec » pour encourager les start-ups.
Les travaillistes se sont jetés sur cette remarque. « À quel point Rishi Sunak est-il déconnecté ? Le public subit la pire crise du coût de la vie de tous les temps et il passe son temps à dire à Elon Musk qu’il aimerait qu’ils abandonnent leur emploi et soient prêts à échouer », a déclaré le député Jonathan Ashworth. « Il n'a aucune idée de ce qui se passe ».
Musk a semblé ridiculiser l’approche à deux visages des politiciens à l’égard de l’IA peu avant sa discussion avec Sunak à Londres, suggérant dans un tweet qu’ils cachaient des arrière-pensées.
Le patron de X et Tesla a partagé une caricature de dirigeants du Royaume-Uni, des États-Unis, de l’UE et de la Chine affirmant que l’IA présentait un « risque catastrophique » – mais étaient plus préoccupés par le développement de la technologie en premier.
Elon Musk : « nous devrions nous inquiéter » des robots humanoïdes qui « peuvent nous suivre n'importe où »
Cependant, Musk a félicité le Premier ministre pour avoir « pris la sécurité [de l’IA] au sérieux », lui-même ayant averti qu’elle posait un « risque existentiel ». Il a déclaré à un auditoire composé de chefs d’entreprise : « Dans l’ensemble, l’IA sera très probablement une force bénéfique. »
Il a également fait valoir que l’IA offrirait aux gens une « compagnie » solide. Il a déclaré que certains robots IA « vous connaîtront mieux que vous-même… vous aurez en fait un grand ami ». Apparaissant interloqué, Sunak a déclaré qu'il trouvait l'idée « surprenante ».
Mais le milliardaire a également mis en garde contre les dangers observés dans certains films de science-fiction, affirmant que « nous devrions nous inquiéter » des robots humanoïdes qui « peuvent vous suivre n’importe où ».
Sunak a déclaré que « nous avons tous regardé » des films sur des robots qui se terminent par l'arrêt des machines, affirmant que l'importance d'un interrupteur d'arrêt avait été discutée lors du sommet de Bletchley Park.
Musk a également salué la « très bonne » décision de Sunak d’inviter la Chine au sommet. Il a qualifié « d'essentielle » l’inclusion de Pékin dans les discussions. Il a également déclaré qu’il saluait l’idée que le gouvernement agisse comme « arbitre » lorsqu’il s’agissait de tenter de réglementer les nouveaux modèles d’IA.
Une position qui semble s'éloigner des propos qu'il tenait encore récemment
Elon Musk n'a pas toujours été cet optimiste de l'IA.
En 2019, Elon Musk a profité de son passage à la conférence South by Southwest (SXSW) qui se tenait à Austin, au Texas, pour réitérer ses avertissements concernant le danger de l’intelligence artificielle. D'après lui, « l’IA est plus dangereuse que les ogives nucléaires » et il devrait exister un organisme de réglementation supervisant le développement de cette technologie.
« Je ne suis pas normalement un partisan de la réglementation et de la surveillance - je pense qu’on devrait généralement pécher par excès de minimisation de ces choses-là, mais il s’agit d’une situation où le public court un très grave danger », a prévenu Musk.
En 2017, le patron de Tesla considérait l'IA comme un « risque fondamental pour la civilisation humaine ». Elon Musk a alors demandé au gouvernement de réglementer de manière proactive l'intelligence artificielle avant que les choses n'aillent trop loin. « En général, voici la façon dont les réglementations sont mises en place », explique-t-il. « Un certain nombre de mauvaises choses se produisent, il y a un tollé public et, après de nombreuses années, une agence de réglementation est mise en place pour réglementer cette industrie. Cela prend une éternité. Cela a été mauvais par le passé, mais pas quelque chose qui représentait un risque fondamental pour l'existence de la civilisation. L'IA est un risque fondamental pour l'existence de la civilisation humaine », dit-il.
Plus récemment, dans une lettre ouverte publiée en mars 2023, Elon Musk et un groupe d'experts en intelligence artificielle et de dirigeants de l'industrie ont demandé une pause de six mois dans le développement de systèmes plus puissants que le GPT-4 lancé par OpenAI, en invoquant les risques potentiels pour la société et l'humanité.
La lettre, publiée par l'organisation à but non lucratif Future of Life Institute et signée par plus de 1 000 personnes, dont Musk, appelait à une pause dans le développement de l'IA avancée jusqu'à ce que des protocoles de sécurité partagés pour de telles conceptions soient élaborés, mis en œuvre et contrôlés par des experts indépendants. « Des systèmes d'IA puissants ne devraient être développés qu'une fois que nous sommes certains que leurs effets seront positifs et que leurs risques seront gérables », peut-on lire dans la lettre.
La lettre détaille les risques potentiels pour la société et la civilisation que représentent les systèmes d'IA compétitifs pour les humains, sous la forme de perturbations économiques et politiques, et appelle les développeurs à travailler avec les décideurs politiques sur la gouvernance et les autorités de régulation.
L’IA, une opportunité ou une menace pour l’économie ?
La vision de Musk sur l’IA soulève des questions sur les implications économiques et sociales d’une technologie qui pourrait remplacer le travail humain. Certains experts estiment que l’IA pourrait créer de nouvelles opportunités de croissance, d’innovation et de bien-être, en libérant les humains des tâches routinières et en leur permettant de se consacrer à des activités plus créatives et enrichissantes. D’autres craignent que l’IA ne provoque une augmentation du chômage, des inégalités et de l’exclusion, en rendant obsolètes de nombreux emplois et en concentrant les richesses et le pouvoir entre les mains d’une élite technologique.
Pour faire face à ces défis, certains proposent de mettre en place un revenu universel de base (RUB), qui garantirait à chaque citoyen un revenu minimum, indépendamment de son statut professionnel. L’idée est de fournir un filet de sécurité aux personnes qui perdraient leur emploi à cause de l’IA, et de leur donner la liberté de choisir leur mode de vie, sans contrainte financière. Musk lui-même est un partisan du RUB, qu’il considère comme une solution “nécessaire” face à l’automatisation.
D’autres suggèrent de repenser le concept même de travail, en valorisant davantage les activités qui contribuent au bien commun, à la solidarité et à l’épanouissement personnel, plutôt que celles qui visent uniquement à maximiser le profit. Il s’agirait de promouvoir une économie plus humaine et plus durable, qui respecte les besoins et les aspirations de chacun, ainsi que les limites de la planète.
Quelle que soit la voie choisie, il est clair que l’IA représente un défi majeur pour l’avenir de l’humanité, qui nécessite une réflexion collective et une action concertée. Comme l’a dit Musk, « l’IA est la chose la plus importante qui se passe dans le monde ». Il est donc essentiel de s’assurer qu’elle soit utilisée à bon escient, et qu’elle serve à améliorer la condition humaine, plutôt qu’à la menacer.
Source : échange (vidéo dans le texte)
Et vous ?
:fleche: Que pensez-vous de la vision de Musk sur l’IA et le travail ? Êtes-vous d’accord avec lui sur le fait que le travail humain deviendra optionnel à l’avenir ?
:fleche: Quelles sont les activités que vous aimeriez faire si vous n’aviez plus besoin de travailler pour gagner votre vie ? Quelles sont celles qui vous apportent le plus de satisfaction et de sens ?
:fleche: Comment voyez-vous le rôle du travail dans la société ? Est-ce un moyen de contribuer au bien commun, de se réaliser personnellement, ou simplement de subvenir à ses besoins ?
:fleche: Quels sont les avantages et les inconvénients du revenu universel de base ? Pensez-vous que ce soit une solution viable et souhaitable pour faire face à l’automatisation ?
:fleche: Comment réguler l’IA pour qu’elle soit au service de l’humanité, et non contre elle ? Quels sont les principes éthiques et les normes juridiques à respecter ?
:fleche: Quels sont les risques et les opportunités de l’IA pour le développement durable ? Comment l’IA peut-elle aider à résoudre les problèmes environnementaux et sociaux du monde ?
Voir aussi :
:fleche: « L'intelligence artificielle va surpasser l'humain dans 5 ans », d'après Elon Musk qui indique comment sa société Neuralink qui conçoit des ordinateurs à implanter dans le cerveau va nous sauver
Plusieurs dirigeants signent une déclaration reconnaissant la nécessité d'atténuer les risques liés à l'IA
Plusieurs dirigeants du monde signent une déclaration reconnaissant la nécessité d'atténuer les risques liés à l'IA
mais le document n'est pas juridiquement contraignant et est vivement critiqué
Le sommet international du Royaume-Uni sur la sécurité de l'IA a connu la signature d'une déclaration dans lequel les participants s'engagent à œuvrer pour le développement d'une IA responsable. Ils ont promis de travailler ensemble pour tester la sécurité des nouveaux modèles d'IA avant qu'ils ne soient mis sur le marché. L'initiative vise à lutter contre les risques "catastrophiques" que l'IA pourrait présenter. Mais l'accord, qui été signé par des représentants de 28 pays, dont les États-Unis, la France, le Royaume-Uni et la Chine, n'est pas juridiquement contraignant. L'initiative est vivement critiquée, les critiques affirmant qu'elle n'aura que très peu d'impacts sur l'avenir de l'IA.
Le Premier ministre britannique, Rishi Sunak, a organisé la semaine dernière à Bletchley Park, en Angleterre, un sommet international de deux jours sur la sécurité de l'IA. Les représentants de 28 pays, des PDG d'entreprises, des chercheurs, ainsi que des dirigeants d'organisations internationales comme l'UE et les Nations Unies ont participé au sommet. Les participants ont échangé pendant deux jours sur les perspectives et la sécurité de l'IA. À la fin, ils ont convenu d'œuvrer en faveur d'un accord et d'une responsabilité partagés concernant les risques liés à l'IA, et ont prévu d'organiser d'autres réunions dans les prochains mois, en Corée du Sud et en France.
Dès le premier jour du sommet, qualifié de "première historique" par Rishi Sunak, les participants ont signé la déclaration de Bletchley, une déclaration commune reconnaissant les risques liés à la technologie. Bletchley Park est un site historique reconnu comme étant le berceau de l’informatique moderne. Le site, qui abrite le National Museum of Computing, des bureaux d'entreprise et plusieurs attractions, est le lieu où opérait le célèbre Alan Turing pendant la Seconde Guerre mondiale pour déchiffrer les codes militaires utilisés par l'Allemagne nazi et ses alliés. La déclaration de Bletchley reconnaît le potentiel et les dangers potentiels de l'IA.
À travers la déclaration de Bletchley, les signataires s'engagent en faveur d'une coopération internationale inclusive pour répondre aux préoccupations en matière de sécurité de l'IA, en proposant des mesures telles que des normes éthiques, la transparence, des tests de sécurité et l'éducation du public. En outre, elle soutient la création d'un réseau international de recherche axé sur la sécurité de l'IA d'avant-garde. La déclaration de Bletchley repose sur cinq points fondamentaux, à savoir :
- insister sur la nécessité d'une IA sûre et responsable : la déclaration de Bletchley souligne l'importance de développer une IA sûre, centrée sur l'être humain, digne de confiance et responsable, en mettant l'accent sur la protection des droits de l'homme et en veillant à ce qu'elle soit largement bénéfique ;
- reconnaître les opportunités et les risques : la déclaration de Bletchley reconnaît le vaste potentiel de l'IA et les risques qui y sont associés, en particulier dans le cas de l'IA exploratoire, qui possède des capacités puissantes et potentiellement dangereuses qui restent mal comprises et imprévisibles ;
- s'engager en faveur d'une coopération inclusive : la déclaration de Bletchley s'engage à collaborer entre les nations et les parties prenantes, en plaidant pour une coopération inclusive afin d'aborder les risques de sécurité liés à l'IA. Cette collaboration se fera par l'intermédiaire des plateformes internationales existantes et d'autres initiatives pertinentes ;
- proposer des mesures pour la sécurité de l'IA : la déclaration de Bletchley propose diverses mesures pour garantir la sécurité de l'IA, notamment l'établissement de normes éthiques, la transparence et la responsabilité, des procédures rigoureuses de test et d'évaluation de la sécurité, ainsi que la sensibilisation du public et la promotion de l'éducation sur les questions liées à l'IA ;
- soutenir la recherche internationale : la déclaration de Bletchley soutient la création d'un réseau international de recherche scientifique axé sur la sécurité de l'IA. Cette recherche fournira des informations précieuses pour l'élaboration des politiques et le bien public, tout en contribuant à des dialogues internationaux plus larges sur l'IA.
La secrétaire d'État britannique à la Science, à l'Innovation et à la Technologie, Michelle Donelan, a déclaré que l'accord était une réalisation historique et qu'il jetait les bases des discussions internationales sur la sécurité de l'IA. Cependant, des experts en IA estiment que l'accord ne va pas assez loin. « Réunir les grandes puissances pour approuver des principes éthiques peut être considéré comme un succès, mais l'élaboration de politiques concrètes et de mécanismes de responsabilité doit suivre rapidement », a déclaré Paul Teather, PDG de la société de recherche sur l'IA AMPLYFI. Selon lui, les conclusions ne sont pas à la hauteur des attentes de l'industrie.
Teather a ajouté : « une terminologie vague laisse place à des interprétations erronées, tandis que le fait de s'appuyer uniquement sur une coopération volontaire est insuffisant pour susciter de meilleures pratiques reconnues sur le plan mondial en matière d'IA ». En outre, les législateurs européens ont mis en garde contre le fait que trop de technologies et de données étaient détenues par un petit nombre d'entreprises dans un seul pays, les États-Unis. Selon eux, cette situation pourrait créer un monopole et empêcher une concurrence équitable dans le secteur. Les États-Unis pourraient également tenter d'imposer leurs règles aux autres dans ce cas.
« Le fait qu'un seul pays détienne toutes les technologies, toutes les entreprises privées, tous les appareils et toutes les compétences sera un échec pour nous tous », a déclaré le ministre français de l'Économie et des Finances, Bruno Le Maire. En plus, des désaccords subsistent quant à la manière exacte de réglementer l'IA et quant à savoir qui dirigera ces efforts. Par exemple, le Royaume-Uni s'est démarqué de l'UE en proposant une approche légère de la réglementation de l'IA, contrairement à la loi de l'UE sur l'IA, qui est en cours de finalisation et contraindra les développeurs d'applications considérées comme à haut risque à des contrôles plus stricts.
« Je suis venue à ce sommet pour vendre notre loi sur l'IA », a déclaré Vera Jourova, vice-présidente de la Commission européenne. Bien qu'elle ne s'attende pas à ce que d'autres pays copient intégralement les lois de l'UE, Jourova a déclaré qu'un accord sur les règles mondiales était nécessaire. « Si le monde démocratique ne veut pas imposer de règles et que nous en imposons, la bataille sera perdue », a-t-elle ajouté. En outre, certains participants au sommet ont déclaré que les trois principaux blocs de pouvoir présents - les États-Unis, l'UE et la Chine - ont tenté d'affirmer leur domination. La déclaration de Bletchley semble avoir un avenir hypothétique.
Certains ont suggéré que la vice-présidente des États-Unis, Kamala Harris, avait devancé Rishi Sunak lorsque le gouvernement américain a annoncé la création de son propre institut de sécurité de l'IA - tout comme la Grande-Bretagne l'avait fait une semaine plus tôt - et qu'elle a prononcé un discours à Londres soulignant les risques à court terme de l'IA, contrairement au sommet qui s'est concentré sur ses menaces existentielles. « Il était fascinant de constater qu'au moment où nous annoncions notre institut de sécurité de l'IA, les Américains annonçaient le leur », a déclaré Nigel Toon, PDG de la société britannique Graphcore, spécialisée dans l'IA.
Par ailleurs, les tensions entre la Chine et les États-Unis et leurs alliés pourraient avoir un impact négatif sur l'avenir de cet accord. La présence de la Chine au sommet et sa décision de signer la déclaration de Bletchley ont été saluées comme un succès par les responsables britanniques. Le vice-ministre chinois de la Science et de la Technologie, Wu Zhaohui, a déclaré que son pays était prêt à travailler avec toutes les parties sur la gouvernance de l'IA. Mais, il a déclaré aux délégués que la tension entre la Chine et l'Occident était palpable : « les pays, quelles que soient leur taille et leur échelle, ont les mêmes droits de développer et d'utiliser l'IA ».
Zhaohui a participé à la table ronde du jeudi, mais n'a pas participé aux événements publics du deuxième jour. La responsabilité de la sécurité de l'IA incombe à toutes les parties prenantes, y compris les nations, les organisations internationales, les entreprises, la société civile et le monde universitaire. L'inclusion et la réduction de la fracture numérique sont essentielles pour que l'IA profite à tous, y compris aux pays en développement. L'engagement en faveur de cette mission doit rester ferme, car ce n'est qu'en travaillant ensemble que le monde pourra faire en sorte que l'IA continue de profiter à l'humanité tout en atténuant les dangers potentiels.
Les participants au sommet ont également abordé le sujet des modèles d'IA open source. Certains experts ont mis en garde contre le fait que les modèles open source pourraient être utilisés par des terroristes pour créer des armes chimiques, voire une superintelligence échappant au contrôle de l'homme. Yoshua Bengio, un pionnier de l'IA nommé pour diriger un rapport sur l'état de la science commandé dans le cadre de la déclaration de Bletchley, a déclaré que les dangers potentiels liés à l'IA open source constituaient une priorité absolue. Cependant, ces allégations sont réfutées par la communauté open source et des entreprises comme Meta.
S'adressant à Rishi Sunak lors d'un événement en direct à Londres jeudi, Elon Musk, PDG de xAI a déclaré : « nous en arriverons à un point où l'IA en source ouverte commencera à s'approcher de l'intelligence humaine, voire à la dépasser. Je ne sais pas vraiment quoi faire à ce sujet ». Selon Bengio, il n'est pas possible de publier ces puissants systèmes en code source libre tout en protégeant le public avec des garde-fous adéquats. En commentant ces propos, Nick Clegg, président des affaires internationales de Meta, a déclaré que les réglementations gouvernementales en vue pourraient se heurter à la résistance des entreprises technologiques.
« Les nouvelles technologies donnent toujours lieu à un battage médiatique. Elles entraînent souvent un zèle excessif chez les partisans et un pessimisme excessif chez les détracteurs. Je me souviens des années 80. Il y a eu cette même panique morale à propos des jeux vidéo. Il y a eu des paniques morales autour de la radio, de la bicyclette, d'Internet », a ajouté Clegg. Dans le même temps, Mark Surman, président et directeur exécutif de la fondation Mozilla, qui supervise le développement du navigateur Firefox, s'est également inquiété du fait que le sommet soit une plateforme mondiale permettant aux entreprises privées de faire valoir leurs intérêts.
Mozilla a publié jeudi une lettre ouverte signée par des universitaires, des hommes politiques et des employés d'entreprises privées, en particulier Meta, ainsi que par le prix Nobel de la paix Maria Ressa. « Nous avons constaté à maintes reprises qu'un accès et un contrôle publics accrus rendent les technologies plus sûres, et non plus dangereuses. L'idée qu'un contrôle étroit et exclusif des modèles d'IA fondamentaux est le seul moyen de nous protéger d'un préjudice à l'échelle de la société est au mieux naïve, au pire dangereuse », a déclaré Surman. Tout comme Meta, la fondation Mozilla milite pour le développement de l'IA en open source.
« Nous appelons les décideurs politiques à investir dans une série d'approches - de l'open source à la science ouverte - dans la course à la sécurité de l'IA. Des approches ouvertes, responsables et transparentes sont essentielles pour assurer notre sécurité à l'ère de l'IA », a-t-il ajouté. En somme, la déclaration de Bletchley adoptée lors du sommet est juridiquement non contraignante et les analyses sont sceptiques quant à ses perspectives. Selon ces derniers, l'accord ne devrait avoir que très peu d'impact sur le développement de l'IA. Il est décrié, car il est considéré comme une occasion pouvant permettre aux Big Tech d'imposer leurs visions de l'IA.
Source : la déclaration de Bletchley
Et vous ?
:fleche: Quel est votre avis sur le sujet ?
:fleche: Que pensez-vous de la déclaration de Bletchley adoptée la semaine dernière au Royaume-Uni ?
:fleche: La déclaration de Bletchley répond-elle aux préoccupations liées à la sécurité de l'IA ? Pourquoi ?
:fleche: L'initiative est-elle prometteuse ? Quels pourraient être les impacts potentiels sur l'avenir de l'IA ?
:fleche: L'initiative favorise-t-elle les entreprises privées au détriment de la communauté open source ?
:fleche: Pour le secteur privé tente d'empêcher la communauté open source de participer à la course à l'IA ?
:fleche: Que pensez-vous des inquiétudes exprimées par le ministre français de l'Économie et des Finances ?
:fleche: Comment l'Europe pourrait-elle jouer un rôle de leader sur la question de la sécurité de l'IA ?
:fleche: Quid de la France ? La France dispose-t-elle des atouts nécessaires pour s'imposer dans la course à l'IA ?
Voir aussi
:fleche: Elon Musk déclare au Premier ministre Britannique qu'avec l'IA nous n'aurons plus besoin de travailler pour gagner nos vies, l'IAG nous conduirait à une ère où « aucun travail ne serait nécessaire »
:fleche: « L'intelligence artificielle va surpasser l'humain dans 5 ans », d'après Elon Musk qui indique comment sa société Neuralink qui conçoit des ordinateurs à implanter dans le cerveau va nous sauver
:fleche: La Chine prévoit de stimuler la production de masse de robots humanoïdes d'ici à 2025. En 2027, ils seraient "le nouveau moteur important de la croissance économique" de la Chine
L'IA remplacera tous les emplois humains, et il y aura un revenu universel élevé, d'après Elon Musk
"L'IA remplacera tous les emplois humains, et il y aura un revenu universel élevé, et non de base, dans un avenir positif pour l’IA", d'après Elon Musk
Lors d'une conversation inédite avec le Premier ministre britannique Rishi Sunak, puis dans un post sur X, anciennement Twitter, Elon Musk fait part de son avis sur l'IA et de son impact. Selon lui, "l'IA remplacera tous les emplois humains, et il y aura un revenu universel élevé, et non de base, dans un avenir positif pour l’IA".
Lors d'une conversation inédite avec le Premier ministre britannique Rishi Sunak, Elon Musk fait part de ses réflexions sur l'avenir de l'intelligence artificielle et son impact sur la main-d'œuvre. Elon Musk prédit que l'IA finira par devenir si avancée qu'aucun emploi humain ne sera plus nécessaire. Il évoque également les défis auxquels on sera confrontés en nous adaptant à cette nouvelle réalité, comme la recherche d'un sens à la vie sans le travail traditionnel.
Citation:
Premier ministre britannique Rishi Sunak : Quel serait votre type d'observation sur l'IA et l'impact sur les marchés du travail et les emplois des gens ? Et comment ils devraient se sentir à ce sujet lorsqu'ils réfléchissent à ça ?
Elon Musk : Je pense que nous assistons à la force la plus perturbatrice de l'histoire où nous avons pour la première fois, 'nous aurons pour la première fois', quelque chose qui est plus intelligent que l'homme le plus intelligent. Et je veux dire qu'il est difficile de dire exactement ce moment-là, mais il y aura un moment où il n'y aura plus besoin d'emploi nécessaire. Vous pouvez avoir un travail si vous voulez pour une sorte de satisfaction personnelle, mais l'IA sera capable de tout faire. Donc, je ne sais pas si cela rend les gens confortables ou mal à l'aise.
Vous savez, c'est pourquoi je dis que si tu souhaites un génie magique qui te donne tous les souhaits que tu veux, tu peux le faire. Un génie qui vous donne tous les souhaits que vous voulez et qu'il n'y a pas de limite. Vous n'avez pas cette limite de trois souhaits. Cette limite de trois souhaits absurde ! Tu as juste autant de souhaits que tu veux. C'est à la fois bon et mauvais.
L'un des défis de l'avenir sera de savoir comment faire pour que les gens se sentent à l'aise. L'un des défis de l'avenir sera de savoir comment trouver un sens à la vie si l'on dispose d'un génie magique. Si vous avez un Génie magique qui peut faire tout ce que vous voulez, je pense que… C'est difficile, vous savez.
Quand il y a une nouvelle technologie, elle a tendance à suivre une courbe en S. Dans ce cas, nous allons être sur l'exponentielle de la courbe S pendant longtemps. On pourra demander n'importe quoi. Nous n'aurons pas de revenu de base universel, nous aurons un revenu universel élevé. Donc, dans un certain sens, ce sera en quelque sorte un niveleur ou un égalisateur, parce que je pense que tout le monde aura accès à ce génie magique.
Dans un post sur X, anciennement Twitter, Elon Musk réitère son avis sur l'IA et de son impact sur l'emploi et la vie des gens. Il déclare que "dans un avenir où l'IA sera positive, il y aura un revenu élevé universel, et non pas un revenu de base." Puis d'ajouter, "il est moins évident de savoir comment nous trouverons un sens à notre vie dans un monde où le travail est facultatif."
Citation:
Wall Street Silver : Le revenu de base universel arrive au Canada. Les libéraux estiment que l'offre d'un revenu de base universel aura des "conséquences positives". Justin Trudeau, qui mène le Canada vers le communisme, est encore plus dépendant du gouvernement.
The Rabbit Hole : Je ne suis pas sûr que le revenu de base universel ait un sens en dehors du contexte d'une société entièrement automatisée où la technologie a remplacé la majeure partie du travail humain. La campagne d'Andrew Yang sur le sujet était intéressante en raison des conversations qu'elle a suscitées sur la technologie et l'automatisation. Des idées ?
Elon Musk : Dans un avenir où l'IA sera positive, il y aura un revenu élevé universel, et non pas un revenu de base. Il n'y aura pas de pénurie, sauf celle que nous définissons comme telle. Dans ce scénario, chacun pourra avoir tous les biens et services qu'il souhaite. Il est moins évident de savoir comment nous trouverons un sens à notre vie dans un monde où le travail est facultatif.
Et vous ?
:fleche: Pensez-vous que l'avis d'Elon Musk est crédible ou pertinent ?
:fleche: Quel est votre avis sur le sujet ?
Voir aussi :
:fleche: Elon Musk déclare au Premier ministre Britannique qu'avec l'IA nous n'aurons plus besoin de travailler pour gagner nos vies. L'IAG nous conduirait à une ère où « aucun travail ne serait nécessaire »
:fleche: Elon Musk déclare que le sommet sur la sécurité de l'IA vise à établir un "arbitre tiers" pour superviser les entreprises développant l'IA et tirer la sonnette d'alarme en cas d'inquiétude
:fleche: Pour Elon Musk l'IA est bien plus dangereuse que l'arme nucléaire, alors que Bill Gates estime que l'IA est à la fois porteuse d'espoir et dangereuse
