Dario Amodei estime que les entreprises spécialisées dans l’IA peuvent regagner la confiance du public
Face au scepticisme croissant envers l'IA, Dario Amodei, PDG d'Anthropic, affirme que le seul moyen pour l'IA de gagner la confiance du public est de « réellement » guérir le cancer
Face au scepticisme croissant et à la perte de confiance envers l’IA, le PDG d’Anthropic, Dario Amodei, a mis en avant ce qui, selon lui, pourrait permettre au secteur de regagner la confiance des sceptiques. Dario Amodei estime que les entreprises spécialisées dans l’IA peuvent regagner la confiance du public en réalisant des avancées concrètes, mais les détracteurs font valoir qu’une plus grande transparence, un meilleur accès et une responsabilité accrue seront également nécessaires. « La critique la plus justifiée à l’encontre des entreprises d’IA, y compris Anthropic, est que nous n’avons pas encore tenu nos grandes promesses au service du monde. » « Ce qui fonctionnera, c’est de guérir réellement le cancer », a-t-il ajouté.
Des militants anti-IA affirment que les avancées en matière d’intelligence artificielle représentent une menace existentielle pour l’humanité. Ils soutiennent en sus que l'expansion de l'IA entraîne de graves problèmes sociétaux et environnementaux, notamment des suppressions d'emplois massives, une empreinte carbone et une empreinte hydrique considérables liées aux centres de données, ainsi que l'utilisation contraire à l'éthique de systèmes autonomes dans le cadre des conflits armés. Ces initiatives portées par des groupes comme Action Model font suite à d’autres initiées par des mouvements comme Pause AI et qui pointaient uniquement l’aspect menace existentielle sur l’humanité.
Face au scepticisme croissant et à la perte de confiance envers l’IA, le PDG d’Anthropic, Dario Amodei, a mis en avant ce qui, selon lui, pourrait permettre au secteur de regagner la confiance des sceptiques. Dans un récent message publié sur X, Amodei a déclaré que le meilleur moyen pour les entreprises spécialisées dans l’IA de changer la perception du public était de tenir les promesses qu’elles ont faites et de produire des avancées scientifiques concrètes.
Dario Amodei est un chercheur et entrepreneur américain spécialisé dans l'intelligence artificielle (IA). En 2021, il a cofondé avec sa sœur Daniela Amodei la société Anthropic, à l'origine de la série de grands modèles linguistiques Claude. Auparavant, il occupait le poste de vice-président de la recherche chez OpenAI. En tant que PDG d’Anthropic, Amodei écrit souvent sur les avantages et les risques des systèmes d’IA avancés. Il est partisan d’une stratégie d’« entente » dans laquelle une coalition de nations démocratiques utiliserait des systèmes d’IA avancés dans des applications militaires afin d’obtenir un avantage décisif sur ses adversaires, tout en partageant les bénéfices avec les nations coopérantes.
Dans son message, il a reconnu la méfiance du public à l’égard de l’IA et a fait valoir que le secteur ne peut changer cette perception qu’en produisant des résultats significatifs. Il a déclaré : « À ce stade, affirmer que l’IA va guérir le cancer relève davantage du cliché que de l’inspiration, et la plupart des gens considèrent cela comme trompeur », a écrit Amodei. « La critique la plus justifiée à l’encontre des entreprises d’IA, y compris Anthropic, est que nous n’avons pas encore tenu nos grandes promesses au service du monde. » « Ce qui fonctionnera, c’est de guérir réellement le cancer », a-t-il ajouté.
Le développement d’énormes centres de données qui consomment des ressources publiques et perturbent les communautés à travers le pays, ainsi que des problèmes tels que l’extraction de données en ligne protégées par des droits d’auteur pour entraîner des modèles d’IA, n’ont pas été bien accueillis par le public. Une récente étude a révélé qu’environ la moitié des Américains estimaient que la présence croissante de l’IA dans leur vie quotidienne les rendait plus inquiets qu’enthousiastes quant à l’avenir.
Face à cette levée de boucliers croissante, Amodei s’est imposé comme une voix de premier plan mettant en garde contre les risques potentiels de l’IA. Il a souligné à plusieurs reprises les dangers d’un développement rapide de l’IA dans des essais et des articles publiés sur le blog d’Anthropic. Dans un essai publié en juin, il a déclaré que les nouveaux modèles Mythos présentaient des « risques très réels » pour la cybersécurité, le secteur financier, les infrastructures critiques et la sécurité nationale. Il a également fait part de ses inquiétudes quant à l’impact potentiel de l’IA sur les emplois de premier échelon.
Amodei a fait valoir que la méfiance du public à l’égard des entreprises d’IA s’inscrit dans un scepticisme beaucoup plus large envers les grandes entreprises, plutôt que d’être uniquement due au secteur de l’IA. Cependant, les détracteurs soutiennent que les pratiques propres au secteur, en particulier la décision prise par de grandes entreprises d’IA telles qu’Anthropic de ne pas rendre publics leurs modèles les plus avancés, contribuent également à cette méfiance.
Voici le message de Dario Amodei :
Merci Gavin pour cet échange particulièrement réfléchi. Je ne passe généralement pas beaucoup de temps sur les réseaux sociaux, mais j’ai tenu à intervenir ici car cela met vraiment en lumière le cœur d’une conversation importante.
Tout d’abord, en ce qui concerne la réglementation, je pense que le choix entre « la concentrer entre les mains d’une poignée d’entreprises et de responsables politiques triés sur le volet par le biais de la réglementation, ou la diffuser largement » est un faux dilemme. Je sais qu’il existe une sorte de raccourci propre à la Silicon Valley selon lequel réglementation = captation réglementaire = concentration du pouvoir, mais j’ai toujours trouvé que c’était une vision trop simpliste du monde. Beaucoup de personnes en dehors de cette bulle considèrent la réglementation comme un moyen de limiter le pouvoir des entreprises et de profiter aux citoyens ordinaires. Je ne partage pas nécessairement ce point de vue non plus ; je pense plutôt que la question est complexe et dépend vraiment de la nature de cette « réglementation ». Mais je pense notamment que ceux qui s’inscrivent dans le schéma « réglementation = captation réglementaire = concentration du pouvoir » sous-estiment souvent le pouvoir décentralisateur de processus institutionnels objectifs et équitables. Pour faire une analogie un peu grossière, on peut dire que le système judiciaire formel peut parfois paraître guindé et élitiste, mais qu’il défend bien mieux les droits des personnes vulnérables que l’alternative, à savoir la justice populaire. À leur meilleur, les institutions peuvent conférer du pouvoir aux idées plutôt qu’aux personnes, et ainsi décentraliser ce pouvoir.
C’est pourquoi Anthropic a toujours formulé ses propositions politiques avec beaucoup de prudence. Nous nous efforçons de formuler des propositions qui désavantagent (ralentissent) les entreprises pionnières en IA tout en *favorisant* leurs concurrents de plus petite taille. Le projet de loi californien SB 53 (que nous avons soutenu), et même le très décrié SB 1047 (sur lequel nous avions une position ambivalente), exemptent totalement de toute obligation toute entreprise dont le chiffre d’affaires ou les coûts de formation des modèles sont inférieurs à un certain seuil (ce seuil était de 500 millions de dollars pour le SB 53, et plus bas pour le SB 1047, mais nous nous y sommes opposés). Plus récemment, le processus de test que nous avons préconisé au sein du CAISI et à la Maison Blanche prévoit des tests plus rigoureux pour les modèles de pointe que pour les modèles non de pointe — ce qui avantagerait de manière différentielle les challengers. De même, la lettre « Pacing the Frontier » envisage (ou du moins, c’est ce que prévoit la mise en œuvre privilégiée par Anthropic) de moduler le rythme des tout meilleurs modèles sans pour autant freiner ceux qui sont en train de rattraper leur retard. Cela nuit aux intérêts commerciaux des laboratoires de pointe et favorise les challengers, y compris les modèles à poids ouverts !
Dans l’ensemble, je considère que l’IA est *structurellement* une technologie qui tend à concentrer le pouvoir, pour des raisons qui n’ont rien à voir avec la réglementation (mais plutôt avec les implications extrêmes des lois d’échelle). Les poids ouverts contribuent certes quelque peu à remédier à ce problème, mais sont loin d’être une solution suffisante, car ils ne font que déplacer quelque peu cette concentration vers ceux qui disposent de la plus grande puissance de calcul et du plus grand nombre de puces (à savoir, en gros, les laboratoires de pointe et peut-être les fournisseurs de matériel). En revanche, je pense que des « règles du jeu » appropriées peuvent simultanément (a) traiter les risques cybernétiques, biologiques et d’alignement liés à l’IA, (b) limiter institutionnellement le pouvoir des entreprises pionnières de l’IA, et (c) laisser une place aux modèles à poids ouverts tout en traitant les risques spécifiques qu’ils comportent.
Soit dit en passant, je ne pense pas que les événements de ces derniers mois aient « empêché la mise en place de [ma] voie réglementaire préférée ». L’approche que l’administration Trump serait en train d’adopter — des tests préalables au déploiement pour les modèles de pointe, ainsi que des tests des modèles à paramètres ouverts lorsqu’ils se rapprochent de la pointe — est une approche que je soutiens pleinement, même si je dois bien sûr en examiner les détails pour m’en assurer. Je soutiens également les idées de Demis Hassabis concernant la création d’une entité similaire à la FINRA. Cela contraste avec la situation d’il y a six mois, lorsque la majeure partie du secteur militait encore en faveur d’une préemption de toute réglementation étatique et qu’aucune approche fédérale ne semblait se dessiner.
Deuxièmement, en ce qui concerne le discours sur l’IA. Je ne suis pas d’accord pour dire que mon discours a été disproportionnellement négatif. En réalité, il a été à peu près équilibré entre les risques et les avantages : j’ai écrit un essai majeur sur chacun d’entre eux, et même dans les interviews où j’aborde les risques, je veille à mentionner fréquemment les avantages incroyables ainsi qu’à proposer des solutions possibles aux risques (les courts extraits de mes interviews qui se retrouvent sur les réseaux sociaux ont tendance à être disproportionnellement négatifs, car cela génère des clics). En réalité, j’ai écrit *Machines of Loving Grace* parce que j’avais le sentiment que le secteur de l’IA ne présentait pas une vision suffisamment inspirante de la manière dont cette technologie pourrait transformer radicalement le monde pour le mieux. La majeure partie de cet essai est consacrée à réfuter le scepticisme quant au potentiel de l’IA dans les domaines de la santé et de la biologie, et à montrer pourquoi je pense qu’il sera réellement possible de guérir la plupart des maladies humaines d’ici environ 5 à 10 ans, aussi fou que cela puisse paraître aux yeux du grand public et, franchement, aux biologistes eux-mêmes (j’en ai moi-même fait partie !). De plus, si vous lisez mon dernier essai (« Policy on the AI Exponential »), j’y présente des propositions concrètes visant à rationaliser le processus de la FDA afin de garantir que l’avalanche de médicaments développés grâce à l’IA ne soit pas ralentie par les procédures réglementaires. Je ressens une réelle urgence à ce sujet : j’ai perdu mon père des suites de l’hépatite C quelques années seulement avant la mise au point des antiviraux à action directe (sofosbuvir), qui guérissent 95 % des patients et l’auraient probablement guéri lui aussi.
Je reconnais que le grand public a une opinion négative de l’IA (et que c’est un problème majeur), mais je ne pense pas que cela soit principalement dû à moi-même ou à d’autres leaders du secteur de l’IA qui mettent en garde contre ses risques. Je pense qu’il s’agit fondamentalement d’une crise de confiance. Je pense que les gens ordinaires ne font pas confiance aux entreprises, aux gouvernements ou au secteur technologique, et soupçonnent toujours que nous sommes en train de concocter un nouveau moyen de les escroquer. Les causes de ce phénomène remontent à plusieurs décennies et l’IA n’en est que la dernière manifestation. Je ne pense pas qu’une campagne marketing tape-à-l’œil avec un angle positif (ce que certains ont préconisé à Anthropic de faire) soit le moyen de regagner cette confiance — à ce stade, affirmer que l’IA va guérir le cancer relève davantage du cliché que de l’inspiration, et la plupart des gens trouvent cela trompeur. Ce qui fonctionnera, c’est de *guérir réellement le cancer*. Je pense que la critique de loin la plus pertinente à l’encontre des entreprises d’IA, y compris Anthropic, est que nous n’avons pas encore tenu nos grandes promesses d’apporter des bienfaits au monde. C’est entièrement de notre faute, et je pense que c’est cette critique que vous devriez formuler, plutôt que toutes ces remarques sur la communication et le marketing.
Nous faisons toutefois de notre mieux pour y remédier : Anthropic intensifie très rapidement ses efforts en biologie et en médecine, et nous espérons obtenir des résultats incroyables dans les années à venir, ainsi que quelques premiers signes encourageants dans les mois à venir. Lorsque nous aurons réellement accompli quelque chose de concret, le monde entier en entendra parler, aussi fort que possible, vous avez ma parole. Mais d’ici là, je ne veux pas faire de promesses en l’air, et en attendant, je me sens obligé de parler honnêtement des risques très réels liés à l’IA et de la manière d’y faire face. L’honnêteté est la bonne attitude sur le fond, et en termes de crédibilité et de confiance du public, elle n’est pas pire, et pourrait même être meilleure, qu’une approche qui ignore ou détourne l’attention des risques que les gens comprennent instinctivement comme étant réels.
Le débat plus large porte donc sur la question de savoir si les entreprises spécialisées dans l’IA peuvent gagner la confiance du public grâce à leurs seules avancées technologiques, ou s’il faudra également faire preuve d’une plus grande ouverture, d’une plus grande transparence et d’un accès plus équitable. Cette déclaration rappelle une étude de 2023, menée par des chercheurs du Brigham and Women’s Hospital, un hôpital affilié à la Harvard Medical School, qui a révélé que ChatGPT n’était pas fiable pour fournir des plans de traitement du cancer.1/2 Thanks Gavin for an especially thoughtful exchange. I don't usually spend much time on social media but I wanted to engage here because it really brings out the heart of an important conversation.
— Dario Amodei (@DarioAmodei) August 15, 2026
First, on regulation, I think that “either concentrate it in the hands of a… https://t.co/2W6vWJAE8Y
En analysant les réponses du chatbot à des cas de cancer hypothétiques, les chercheurs ont constaté que 33 % d’entre elles contenaient des informations incorrectes, telles que des doses de médicaments erronées, des recommandations de radiothérapie inappropriées ou des affirmations non fondées sur l’efficacité des traitements. Les auteurs ont été surpris par la difficulté à identifier les erreurs, car les réponses du chatbot étaient souvent cohérentes et plausibles. Ils ont mis en garde contre les dangers de l’utilisation de l’IA dans le domaine clinique sans une supervision et une validation appropriées.
Et vous ?
Pensez-vous que cette déclaration est crédible ou pertinente ?
Voir aussi :
Répondre avec citation
Anselme45,
Envoyé par Anselme45
Partager