Discussion :

[Artemus24]

Je parle bien de la politique qui se sert des sondages, donc de la statistique, pour prendre des décisions.
Je rappelle que le politique n'a pas la science infuse et qu'il doit bien prendre la température du peuple pour finaliser sa décision.
En quoi une machine serait moins bon qu'un humain sur cette prise de décision ?
Même l'IA peut aussi se conformer à une idéologie.
L'important n'est pas tant que celui qui prend la décision soit une IA ou un politique, mais qu'elle soit conforme aux attentes des électeurs.

[virginieh]

L'important n'est pas tant que celui qui prend la décision soit une IA ou un politique, mais qu'elle soit conforme aux attentes des électeurs.

On est d'accord sur le fait que la décision devrait être conforme aux attentes des électeurs.
Est ce que tu considère que c'est le cas actuellement ?

Sinon juste au sujet des manipulations de l'IA : https://www.leparisien.fr/economie/d..._variant=photo

[totozor]

On est d'accord sur le fait que la décision devrait être conforme aux attentes des électeurs.

Je ne suis même pas sûr de ça.
Ou plutôt si on entend pas "attente des électeurs" l'attente de la majorité des électeurs.
par exemple :
Je décide de réévaluer la pénibilité des métiers - plein de gens sont d'accord avec ça.
Je décide que la pénibilité est proportionnelle à l'espérance de vie des professionnels de chaque métier. La décision risque de ne pas passer parce que les personnes favorisées sont minoritaires (la tertiarisation de la France + l'absence de retraités de ces professions).
je décide que la pénibilité est proportionnelle au taux de professionnels qui fuient le métier par reconversion. La décision risque de passer parce que les personnes favorisées sont nombreuses.
Dans les deux cas je favorise une partie de la population très différente qui méritent toutes les deux d'être prises en compte.

Je ne parle même pas de sujets autour de la transidentité ou des migrants où l'essentiel de la population n'est ni impactée ni dûment informée.
Pourquoi lui demandé son avis?

[Artemus24]

Est ce que tu considères que c'est le cas actuellement ?

Je te réponds, non. Mais cela ne change rien au problème.
Comment peut on prendre une décision qui va impacter des millions de citoyens si l'on n'a pas les moyens de bien la prendre ?
Il y a trop d'intérêts de lobbyistes et je ne sais quoi d'autres qui viennent court-circuiter la bonne marche d'un pays.
On ne peut pas satisfaire une minorité de gens au détriment de la majorité.

@Totozor : il faut bien faire la distinction entre ce qui est bon pour le peuple et ce qu'il réclame.
La divergence peut être importante, voir contre productive mais l'important est l'amélioration de la situation.
La bonne question est de savoir à qui profite cette amélioration si s'en est une ?
Pas nécessairement le peuple et pas nécessairement le gouvernement.

Pour améliorer cette pénibilité tant décrier, faire en sorte que les mêmes ne puissent pas toujours la supporter.
Alterner le travail facile de celui qui est pénible.
Considérer un décompte par personne et faire en sorte que l'on ne dépasse pas un certain quota dans l'année ou dans la totalité de sa vie.
A partir d'un certain âge, ne plus avoir d'activité pénible.
Cela peut se retourner contre les employés quand ils atteignent l'âge et de se faire virer par leur employeur.
Ou mieux encore, automatiser ces métiers pénibles. Les solutions ne manquent pas, mais comment satisfaire tous les intervenants ?
Dans tout changement, il y a toujours des gagnants et des perdant, c'est la règle.

Quand on a toujours été habitué à considérer qu'il y a seulement deux genres, comment accepter ceux qui se considèrent autrement ?
Cela ne va pas de soi et comment les classifier ? Par la naissance uniquement ? Par le choix ? Par décision médicale ?
Doit on considérer cela à l'instar d'un changement patronimique ? Il suffit de modifier l'état civil et c'est fini ?
Cette décision est-elle définitive ? Cela va devenir d'une complexité dont les généalogistes font s'arracher les cheveux !
Et je ne suis pas certain que cela réponde à l'attente des personnes concernées.

[totozor]

La divergence peut être importante, voir contre productive mais l'important est l'amélioration de la situation.

Là encore on peut entre dans la philosophie voir.... la politique.
Qu'appelle-t-on améliorer la situation?
Certains diront que c'est l'augmentation de la moyenne, d'autres que c'est celle de la médiane, d'autre enfin que c'est celle du minimum.
Et tant qu'on a pas résolu ce problème insolvable l'IA ne peut pas donner de solution optimale.

La bonne question est de savoir à qui profite cette amélioration si s'en est une ?
Pas nécessairement le peuple et pas nécessairement le gouvernement.

La réponse me semble pourtant évidente : la politique doit (devrait) bénéficier au peuple.
Maintenant définir peuple.

Pour améliorer cette pénibilité tant décrier, faire en sorte que les mêmes ne puissent pas toujours la supporter.
[...]
Ou mieux encore, automatiser ces métiers pénibles. Les solutions ne manquent pas, mais comment satisfaire tous les intervenants ?
Dans tout changement, il y a toujours des gagnants et des perdant, c'est la règle.

La question n'est pas tant quelle est la bonne solution que comment on évalue qu'une solution est bonne ou non?
L'automatisation semble par exemple une bonne solution, le problème est qu'elle sort des précaires du travail et empire leur situation.
Quand on fait de la politique on doit assumer de ne pas satisfaire tout le monde. C'est pour moi l'une des essences de la démocratie : confronter les points de vue et les solutions.

Quand on a toujours été habitué à considérer qu'il y a seulement deux genres, comment accepter ceux qui se considèrent autrement ?
Cela ne va pas de soi et comment les classifier ? Par la naissance uniquement ? Par le choix ? Par décision médicale ?
Doit on considérer cela à l'instar d'un changement patronimique ? Il suffit de modifier l'état civil et c'est fini ?
Cette décision est-elle définitive ? Cela va devenir d'une complexité dont les généalogistes font s'arracher les cheveux !
Et je ne suis pas certain que cela réponde à l'attente des personnes concernées.

Dans l'ordre
On change d'habitude.
C'est vrai ça ne va pas de soi, on les classifie comme ielles () veulent l'être. Mais surtout pourquoi les classifier? / Comme genre et sexe diffèrent le choix semble être la seule bonne réponse parmi les trois propositions (ou elles méritent une plus longue discussion)
Oui, je pense qu'il faut changer l'état civil et retirer le genre qui est une information aussi pertinente que la couleur des cheveux - c'est à dire indicative.
Pourquoi rendre la décision définitive? Je connais des personnes trans qui gèrent leur prise d'hormones pour jouer avec leur genre mais je connais aussi une personne genderfluide qui précise son genre du moment avec un badge (qu'elle accompagne en générale par une adaptation vestimentaire). Le genre ne devrait pas être une notion essentielle pour les généalogistes, ils arrivent bien a gérer les adoptions, les couples homosexuels pourquoi pour la fluidité dans le genre?

Je trouve que les questions de genre sont un excellent exemple de pourquoi je n'ai pas envie de tout soumettre à referendum.
Pourquoi demander leur avis aux réac' alors qu'ils ne sont pas concernés?
Et oui je considère que je n'ai aucune raison d'être consulté pour certaines décisions politiques. Voir je n'ai pas envie de l'être parce que ça implique que je devrais m'intéresser à un sujet qui ne m'intéresse pas et sur lequel je n'ai pas envie de passer du temps à me renseigner (renseignement nécessaire pour que j'impacte la vie d'autres personnes).

[Artemus24]

La réponse me semble pourtant évidente : la politique doit (devrait) bénéficier au peuple.

En politique, rien n'est évident et c'est justement pour cela qu'ils essayent toujours de convaincre qu'ils sont les seuls à détenir leur vérité.
Sauf que leur vérité n'est pas celle du peuple, sinon il y aurait une totale adéquation dans la façon de gérer le pays.

Quand on fait de la politique on doit assumer de ne pas satisfaire tout le monde.

Donc si je comprends ton opinion, il n'est pas important en politique de satisfaire le peuple.
A contrario, je comprends que le politique est là pour se satisfaire en premier et éventuellement le peuple au cas où celui-ci va dans le même sens.

C'est pour moi l'une des essences de la démocratie : confronter les points de vue et les solutions.

Pas du tout. Gouverner, c'est diriger, organiser, arbitrer, pas de débattre.
C'est anticiper, décider et imposer. Pas de tergiverser sur des problèmes que le peuple ne comprend ni les tenants ni les aboutissants.
La démocratie n'est qu'une forme de représentation du peuple, mais la décision ne se prend pas avec l'accord du peuple.

Mais surtout pourquoi les classifier?

Parce que le politique aime contrôler. Du point de vue du politique, ce qui n'a pas de nom n'a pas de revendication.

Je trouve que les questions de genre sont un excellent exemple de pourquoi je n'ai pas envie de tout soumettre à referendum.

C'est l'exemple même d'une question politique qui n'a pas de sens et qui appartient à celui qui décide de changer de sexe.
Le politique gère la chose publique, la bonne marche d'un pays, pas d'une revendication qui n'a aucun rapport avec son fonctionnement.

[r0d]

La démocratie n'est qu'une forme de représentation du peuple

Techniquement c'est un oxymore : dêmos (le peuple) krátos) pouvoir -> démocratie = le peuple décide. Si ce sont des représentants qui décident pour le peuple, alors ce n'est plus une démocratie.
Il s'agit là d'une des plus vieilles arnaques de la politique-spectacle: diluer la puissance conceptuelle du mot "démocratie" dans une réalité bien plus triste. En effet, nos régimes actuelles sont des formes d'aristocraties perverties (ploutocratie, oligarchie, ...), et sont assez éloignées des principes fondateurs de la démocratie.

[Artemus24]

@ r0d : si les représentants élus démocratiquement ne gouvernent pas, qui gouvernent ?

[virginieh]

@ r0d : si les représentants élus démocratiquement ne gouvernent pas, qui gouvernent ?

Ben non nos représentants élus démocratiquement ne nous gouvernent pas.

Les députés (et sénateurs) sont nos représentant élus, ils doivent en théorie arriver à un consensus via des débats suivis de votes. Ils votent les lois (et d'ailleurs comme je viens de l'indiquer et contrairement à ce que tu as dit dans un autre message, ils doivent débattre et pas juste valider les désideratas du gouvernement, ... en théorie) mais ne nous gouvernent pas.

Le gouvernement (eux nous gouvernent c'est un peu dans le titre) : le premier ministre et les ministres ne sont pas élus. Le premier ministre est désigné par le président (en fonction des partis présents à l'assemblée) et les autres ministres sont choisis par lui-même et le premier ministre conjointement.

Voilà c'est très simplifié (il y a beaucoup de subtilités entre les pouvoirs, droits et devoirs de chaque rôle)

[Matthieu Vergne]

Et je rajouterai que nombre de sujets structurants sont délégués à l'UE, donc nos gouvernants ne nous gouvernent plus non plus dans une certaine mesure.

[Artemus24]

Mon message s'adressait plutôt à R0d qui considère que nos représentants donc nos élus ne doivent pas gouverner.
Ce que je comprends de sa remarque, c'est le peuple qui gouverne, personne d'autre.
Autrement dit, si tout le monde s'exprime, il n'y aura jamais de consensus.
Donc le chaos total pour ce type de gouvernance.

C'est bien la théorie, mais dans la pratique ca ne fonctionne pas.
Car certains vont imposer leur vision à d'autres qui ne s'expriment pas.
C'est ainsi et cela a toujours été, les forts (en gueule) imposent aux faibles.

[r0d]

Mon message s'adressait plutôt à R0d qui considère que nos représentants donc nos élus ne doivent pas gouverner.

La portée de ma remarque était uniquement sémantique. Je ne disais pas "il faut que" ou "il ne faut pas que", je disais juste qu'il n'existe actuellement dans le monde aucun régime que l'on devrait nommer démocratie. Même la Suisse n'en est pas une.

Après moi j'ai mon avis sur ce qui serait bien ou pas*, mais ce n'est pas mon propos.


* indice : je souscris à un héritage idéologique de l'anarcho-communisme.

[Anthony]

Demis Hassabis, PDG de Google DeepMind, met en garde contre l'arrivée imminente de l'AGI et souhaite que les modèles d'IA de pointe soient contrôlés par un organisme US de normalisation avant leur lancement

Demis Hassabis, le PDG de Google DeepMind, a averti que l’intelligence artificielle générale (AGI) pourrait voir le jour d’ici quelques années. Il appelle à ce que les modèles d’intelligence artificielle (IA) les plus puissants au monde soient soumis à des tests de sécurité indépendants avant d'être mis à la disposition du public. Dans un essai publié cette semaine, le dirigeant propose la création d'un organisme américain chargé d'évaluer les systèmes d'IA de pointe, en commençant par des contrôles volontaires avant leur lancement, lesquels pourraient ensuite devenir obligatoires. Selon lui, l'impact potentiel de l'AGI serait comparable à celui de l'électricité et du feu, tout en mettant en garde contre les risques émergents en matière de cybersécurité, de biologie et de nucléaire qu'elle pourrait engendrer.

Google DeepMind, connu sous le nom de Google DeepMind ou simplement DeepMind, est un laboratoire de recherche anglo-américain spécialisé dans l'IA, filiale d'Alphabet Inc. Fondé au Royaume-Uni en 2010, il a été racheté par Google en 2014, puis fusionné avec la division Google Brain de Google AI pour devenir Google DeepMind en avril 2023. L'entreprise a son siège social à Londres et dispose de centres de recherche aux États-Unis, au Canada, en France, en Allemagne et en Suisse.

Sir Demis Hassabis est un chercheur et entrepreneur britannique spécialisé dans l'intelligence artificielle (IA). Il est PDG et cofondateur de Google DeepMind et d'Isomorphic Labs, ainsi que conseiller en IA auprès du gouvernement britannique. En 2024, Demis Hassabis et John M. Jumper se sont vu décerner conjointement le prix Nobel de chimie pour leurs contributions à la recherche en IA dans le domaine de la prédiction de la structure des protéines. Il a également figuré parmi les 100 personnalités les plus influentes au monde selon le magazine Time en 2017 et 2025, et a été l'un des « architectes de l'IA » désignés collectivement comme « Personnalité de l'année 2025 » par le magazine Time.

Demis Hassabis a récemment déclaré que l'AGI pourrait voir le jour d'ici quelques années seulement et a appelé à ce que les modèles d'IA les plus avancés au monde soient testés avant leur mise sur le marché. Ces affirmations interviennent alors que le calendrier de l'arrivée de l'IA générale continue de diviser les principaux acteurs du secteur. En juillet 2025, Yann Le Cun, responsable de l'IA chez Meta, a estimé que l'AGI n'est pas à portée de main, car l'incapacité des grands modèles de langage (LLM) actuels à apprendre de manière autonome et continue, comme le font les humains, freinait leur évolution vers une superintelligence. Selon lui, ces limites structurelles rendent peu crédibles les prévisions annonçant l'émergence de l'AGI avant la fin de la décennie, voire avant.

L'IA a évolué : elle ne se contente plus de répondre à des questions, mais écrit désormais du code, génère des vidéos et agit en tant qu'agents autonomes. Mais quel est l'objectif final ? Pour de nombreux laboratoires de pointe spécialisés dans l'IA, la prochaine grande avancée consistera à développer l'intelligence artificielle générale (AGI), une IA capable d'égaler les capacités cognitives humaines. Alors, quand y parviendrons-nous ? Demis Hassabis, PDG de Google DeepMind, estime que l’AGI pourrait voir le jour d’ici quelques années. Mais avant cela, il souligne que les modèles d’IA les plus puissants au monde devraient faire l’objet de contrôles de sécurité indépendants avant d’être mis à la disposition du grand public.

Dans un essai détaillé intitulé « A Framework for Frontier AI and the Dawning of a New Age » publié sur X, Demis Hassabis déclare : « Nous vivons un moment charnière de l’histoire de l’humanité. L’intelligence artificielle générale (AGI), un système doté de toutes les capacités cognitives du cerveau, est probablement à quelques années seulement de voir le jour. »

Demis Hassabis estime que l'IA évolue si rapidement que les gouvernements et le secteur ont besoin d'une nouvelle méthode pour évaluer les risques posés par les modèles d'IA de pointe. Pour y remédier, il propose la création d'un nouvel organisme de normalisation chargé d'évaluer en toute indépendance les systèmes d'IA les plus puissants au monde avant leur déploiement.

L'AGI sera comme l'électricité et le feu

Le dirigeant de DeepMind estime que l'AGI aura un impact bien plus profond que celui d'Internet ou des smartphones. Il compare plutôt son impact à celui de découvertes telles que l'électricité et le feu. Selon lui, si elle est développée de manière responsable, l'AGI pourrait accélérer considérablement la mise au point de nouveaux médicaments, contribuer au développement de technologies énergétiques plus propres, permettre la création de matériaux de pointe et générer des gains de productivité significatifs dans tous les secteurs d'activité.

Demis Hassabis écrit que les humains ont « en substance trouvé le moyen de faire réfléchir le sable ». Il estime que l'AGI pourrait avoir un impact « dix fois supérieur à celui de la Révolution industrielle, à une vitesse dix fois supérieure », contribuant ainsi à résoudre certains des plus grands défis mondiaux et à créer un avenir où les ressources constitueraient une contrainte moindre.

Mais il met également en garde contre le fait que cette même technologie pourrait engendrer de nouveaux risques pour la sécurité. Selon lui, les modèles d’IA de pointe actuels posent déjà des défis en matière de cybersécurité, tandis que les futurs systèmes pourraient présenter des risques biologiques et nucléaires. C’est pourquoi il estime que des mesures de protection rigoureuses seront nécessaires pour garantir que les humains conservent le contrôle à l’ère de l’IA générale.

« Ce secteur est désormais plongé dans une course commerciale et géopolitique extrêmement intense », écrit-il, ajoutant que les capacités de l'IA progressent plus vite que la compréhension qu'en a la société. « Personne au monde ne sait avec certitude ce qui va se passer à partir de là », affirme-t-il, estimant qu'un « optimisme prudent » est la bonne approche.

Comment l'AGI peut-elle être contrôlée ?

Pour se préparer à l'AGI, Demis Hassabis propose la création d'un organisme de normalisation de l'IA de pointe, dirigé par les États-Unis, qui testerait de manière indépendante les modèles d'IA les plus puissants au monde avant leur mise sur le marché. Selon cette proposition, les modèles dépassant certains seuils de capacité seraient classés comme « modèles de pointe », tandis que les entreprises qui les développent deviendraient des « laboratoires de pointe ». Ces entreprises seraient tenues de renforcer la cybersécurité, de publier des fiches techniques sur leurs modèles et d'investir davantage dans la recherche sur la sécurité de l'IA.

Dans un premier temps, les entreprises soumettraient volontairement leurs modèles à des tests jusqu’à 30 jours avant leur lancement. Si le système s’avère efficace, Demis Hassabis estime que ces contrôles pourraient à terme devenir obligatoires avant le déploiement de modèles d’IA de pointe aux États-Unis.

Les évaluations qu’il propose porteraient également sur la cybersécurité, les menaces biologiques et autres risques élevés, tout en vérifiant si les modèles tentent de contourner les garde-fous de sécurité ou présentent un comportement trompeur. Il recommande également des mesures de protection telles que le tatouage numérique pour les contenus générés par l’IA.

Demis Hassabis estime que le cadre proposé pourrait à terme servir de base à des normes mondiales en matière d'IA, car cette technologie aura des répercussions à l'échelle mondiale. « L'avenir n'est pas encore écrit », affirme-t-il, en soulignant que les décisions prises aujourd'hui détermineront la manière dont l'IA générale façonnera l'humanité.

L'appel de Demis Hassabis en faveur d'une évaluation indépendante des modèles d'IA de pointe s'inscrit dans une réflexion qu'il mène depuis plusieurs années sur les promesses et les dangers de l'AGI. Le dirigeant de Google DeepMind, lauréat du prix Nobel de chimie et figure de proue de la révolution AlphaFold, décrit depuis longtemps l'AGI comme une technologie qui présente une « probabilité non nulle de désastre ». S'il reconnaît les risques catastrophiques qu'elle pourrait engendrer, il poursuit néanmoins son développement, estimant que la coopération internationale et la mise en place de mécanismes de précaution sont préférables à un ralentissement unilatéral dans un contexte de concurrence géopolitique.

Les inquiétudes de Demis Hassabis rejoignent d'ailleurs un débat plus large qui divise les principaux laboratoires d'IA sur la nature réelle des risques liés à l'AGI. Avant de quitter OpenAI, l'ancien directeur de la recherche Ilya Sutskever avait envisagé la création d'un « bunker de l'apocalypse » pour protéger les chercheurs avant le lancement d'une IA générale, craignant qu'elle ne provoque un chaos géopolitique ou une compétition violente entre les grandes puissances. Mais cette question divise la communauté de l'IA. Le responsable de l'IA chez Meta, Yann Le Cun, a rejette l'idée que l'IA constitue une menace existentielle pour l'humanité.

Au-delà des débats sur la sécurité de l'IA, certains chercheurs remettent également en cause la possibilité même de voir émerger une véritable AGI. Tim Dettmers, chercheur à l'Ai2, estime que l'idée d'une IA superintelligente relève davantage d'un fantasme de la Silicon Valley que d'un objectif réaliste. Selon lui, les ambitions des géants de la technologie en matière d'AGI se heurtent à des limites fondamentales liées au matériel, aux lois de la physique et au coût exponentiel du calcul. Il considère que ces contraintes rendent l'AGI improbable et met en garde contre les excès d'investissement qui pourraient alimenter une bulle spéculative autour de l'IA.

Source : Essai de Demis Hassabis, PDG de Google DeepMind

Et vous ?

Quel est votre avis sur le sujet ?
Trouvez-vous ces prévisions du PDG de Google DeepMind crédibles ou pertinentes ?

Voir aussi :

Google DeepMind estime que l'AGI pourrait arriver d'ici à 2030 et énumère quatre façons dont elle pourrait causer de « graves dommages » à l'humanité, bien que les critiques estiment que l'AGI est une chimère

« L'AGI n'arrivera pas avant plusieurs décennies, voire plus », affirme le chercheur en IA Andrew Ng, qui ajoute que les prédictions sur une arrivée imminente s'appuient sur des définitions biaisées de l'AGI

Des chercheurs chinois viennent de percer les secrets de l'AGI d'OpenAI, avec un plan détaillé qui révèle comment recréer les capacités de raisonnement du modèle o1 d'OpenAI à partir de zéro

[kain_tn]

Mais oui, Demis. Je suis certain que tu ne dis absolument pas ça pour faire venir plus d'investisseurs...

[JackIsJack]

Cela sera mis en place car l'administration Trump est connu pour sa rationalité, son altruisme et sa volonté d'anticiper les problèmes avant d'agir.

[totozor]

Mais oui, Demis. Je suis certain que tu ne dis absolument pas ça pour faire venir plus d'investisseurs...

Ca serait vraiment mesquin

[Anselme45]

...et souhaite que les modèles d'IA de pointe soient contrôlés par un organisme US de normalisation avant leur lancement

Ou comment faire de l'hypocrisie, un sport de niveau olympique!

C'est dit juste pour passer pour le "gentil garçon de la classe", les promoteurs de l'IA savent parfaitement que cette démarche est parfaitement inapplicable!!!

Si un modèle IA était "contrôlable", il y a bien longtemps que les "hallucinations de l'IA" seraient de l'histoire ancienne

[Zéolith]

Il est bien possible qu'il y ait un calcul de la part de Demis Hassabis, PDG de Google DeepMind, pour l'inciter à prendre la parole mais la démarche a le mérite de poser le problème en amont.

Ma critique principale concerne le rôle attribué aux USA de réguler les acteurs. Pourquoi justement les USA ? Pour mieux brider les acteurs hors US ?
S'il y a une autorité de régulation, et ce serait bien, elle doit agir dans le contexte de l'ONU ou de tout autre organisation cogérée par les États.

[ec]

Si cet organisme est uniquement US, on va avoir des revendications du style tel pays ne doit pas disposer de cette intelligence artificielle car c'est contraire aux intérêts US. L'ONU doit s'emparer de cette question et créer un laboratoire de spécialistes compétents pour exécuter ce contrôle international. Google en prenant les devants veut dominer ce contrôle.

[Bigb]

En tout cas ca avance à vitesse grand V, les prgrès sont fous d'une génération à l'autre.