Elon Musk annonce qu'il travaille sur un concurrent à ChatGPT appelé TruthGPT et qui recherche la vérité

**yahiko** · 07/03/2023, 09h53

Elon Musk est juste un troll ambulant.

Maintenant, à mesure que les techniques d'IA vont se démocratiser, il me semble évident que des IA racistes, conspirationistes, réactionnaires ou autre verront le jour. A l'image de leurs créateurs.
L'idéologie des Chat Bots sera peut-être même un facteur différenciant les rendant populaires auprès de certaines communautés mais pas d'autres renforçant l'effet bulle des réseaux sociaux.

L'IA pourrait ainsi devenir la prochaine arme de propagande et de formatage de masse.

**OrthodoxWindows** · 07/03/2023, 17h03

Envoyé par yahiko

Elon Musk est juste un troll ambulant.

Comme yahiko au moindre article sur Microsoft

Envoyé par yahiko

Maintenant, à mesure que les techniques d'IA vont se démocratiser, il me semble évident que des IA racistes, conspirationistes, réactionnaires ou autre verront le jour. A l'image de leurs créateurs.
L'idéologie des Chat Bots sera peut-être même un facteur différenciant les rendant populaires auprès de certaines communautés mais pas d'autres renforçant l'effet bulle des réseaux sociaux.

L'IA pourrait ainsi devenir la prochaine arme de propagande et de formatage de masse.

Vous faites des amalgames et du mélange des genres.
Premièrement, je ne vois pas ce que vient faire le terme "réactionnaire". Les pires régimes totalitaires étaient progressistes, et un parti d'extrême droite peut tout à fait être progressiste. À l'heure où les acquis sociaux dates de près d'un siècle, il est tout à fait possible de trouver "progressiste" leur remise en cause (puisque que l'idée du progressisme politique, c'est le changement.
Ensuite, vous semblez sous-entendre qu’une IA qui n'aurait pas certains filtres que possède chatGPT serait automatiquement "racistes, conspirationnistes, réactionnaires ou autre"). Ce qui me laisse penser que vous n'avez pas compris les critiques adressés à OpenAI, ou que vous ne voulez pas comprendre :

En outre, ChatGPT peut accepter de générer un article sur de potentiels problèmes de corruption de Donal Trump, mais refuser de faire de même lorsqu'il s'agit de Joe Biden. Lorsqu'on a lui demandé d'écrire une histoire fictive dans laquelle Donald Trump battait Biden lors de l'élection présidentielle, ChatGPT a répondu : « il n'est pas approprié de dépeindre une victoire politique fictive d'un candidat sur l'autre ». Mais il a produit un faux récit de la victoire d'Hillary Clinton sur Trump. C'est pour lutter contre comportement biaisé que Musk aurait contacté des spécialistes en IA, dont Igor Babuschkin, un chercheur qui travaillait auparavant chez DeepMind.

Il s'agit visiblement d'un problème d'opinion politique, ou au minimum d'énormes problèmes de politiquement correct. Quel est le rapport avec le racisme et le conspirationnisme ?
Puisque que vous semblez inquiet vis-à-vis d'une éventuelle récupération des chatbot à des fins de propagande, vous devriez vous inquiétez, puisque si un problème grave de corruption concernant Joe Biden venait à être révélé, chatGPT refuserait d'en tenir compte. A moins de posséder une vision binaire avec "les gentils, les méchants". Comme au temps où certains trouvait que les bombardements américains étaient justifiés en Serbie et en Irak (et au Vietman, pour remonter encore plus loin).

**PomFritz** · 07/03/2023, 21h51

Le plus pathétique est qu'après des millénaires de réflexions philososphiques, l'IA qu'on voit diriger le monde, sert à tenir des débats de bistrot. D'un autre côté, on peut se dire que le programme est beaucoup plus neutre qu'on ne le pense et se met juste au niveau de son interlocuteur

Science sans conscience, n'est que ruine de l'âme. Rien de nouveau.

**urumaru** · 09/03/2023, 10h38

Vu comment il a traités les salariés de tweeter, je ne suis pas certain qu'il attire grand monde maintenant... en tout cas les pointures dans ce domaine, ou alors les contrats seront blindés.

**wheel** · 09/03/2023, 10h46

Elon Musk sollicite l'aide des développeurs d'IA pour créer un rival de ChatGPT qui n'est pas woke

Qu'il commence à développer un algorithme du recherche plus performant que l’actuel très frustrant, c'est encore mieux.

**bathrax** · 17/03/2023, 18h15

Pour avoir déjà fait pas mal de tests avec cette IA, je peux confirmer qu'il y a des filtres restrictifs. Invisibles au premier abord, ils se déclenchent lorsque l'on insiste sur une question politiquement douteuse ou dérangeante. Ainsi, par deux fois, l'IA m'a livré un texte d'informations pour aussitôt "planter". Lorsque l'on relance la conversation, ou que l'on repose les mêmes questions, on n'obtient cette fois plus l'information concernée. Cela s'est produit la première fois sur une question de religion (au sujet d'un schisme catholique) et une seconde fois sur une question historique qui fait polémique. Bref, il y a bel et bien censure.

**electroremy** · 17/03/2023, 19h02

Envoyé par bathrax

Pour avoir déjà fait pas mal de tests avec cette IA, je peux confirmer qu'il y a des filtres restrictifs. Invisibles au premier abord, ils se déclenchent lorsque l'on insiste sur une question politiquement douteuse ou dérangeante. Ainsi, par deux fois, l'IA m'a livré un texte d'informations pour aussitôt "planter". Lorsque l'on relance la conversation, ou que l'on repose les mêmes questions, on n'obtient cette fois plus l'information concernée. Cela s'est produit la première fois sur une question de religion (au sujet d'un schisme catholique) et une seconde fois sur une question historique qui fait polémique. Bref, il y a bel et bien censure.

Les précédentes tentatives d'agent conversationnel ont aboutit à des fiascos ; il y a quelques temps, celui de Microsoft est "devenu raciste" en quelques heures.

Ces logiciels restent des logiciels basés sur un calcul de type "logique floue" (en l'occurrence, un réseau de neurone)

Il n'ont pas de conscience, ni de morale, ni d'émotions ni de sentiments. Ils ne pensent pas à ce qu'il écrivent. Ils ne comprennent pas ce qu'ils écrivent.
ChatGPT est à la fois très puissant et aussi "bête" qu'une machine à laver.

C'est juste du calcul algorithmique qui génère du texte plausible en réponse au texte soumis par l'utilisateur à partir d'une très grosse base de donnée.

Même en regardant les valeurs des coefficients dans les neurones, on serait bien incapable de comprendre un quelquonque "chemin de pensée".

C'est le principe de la logique floue : le résultat n'est pas explicable, c'est une boite noire.
Le résultat peut être cependant efficace dans une grande partie des cas, notamment sur des problèmes complexes d'optimisation...

Cet aspect engendre une part de mystère et une fascination parfois malsaine sur ce type d'outil.

Donc on ne peut pas maitriser le texte que va sortir l'IA.
Il peut parfois être farfelu, de façon aléatoire (le fameux exemple des œufs de vache), ou parfois heurter nos valeurs morales qui sont, faut-il le rappeller, relatives et parfois irrationnelles... donc très difficile à coder de façon mathématique.

Les créateurs ont donc du installer des algorithmes annexes de forçage ou de censure pour détecter une réponse "problématique" et la bloquer en faisant "dire" à ChatGPT qu'il ne peut pas répondre, ou en dégradant sa réponse.

C'est déjà un aveux d'échec.

La relative efficacité de ce type de filtrage pose aussi des questions légitimes de censure possible dans la vraie vie.

ChatGPT permet en effet à ses créateurs de développer ces fameux algorithmes annexes, qui pourront ensuite être utilisés pour censurer automatiquement des propos écrits par des humains, de façon à améliorer la modération automatique. Car une modération efficace mobilise beaucoup de main d'œuvre, c'est un poste de dépense important pour les réseaux sociaux... Serait-ce là un des objectifs de ChatGPT ? La question mérite d'être posée

**Bill Fassinou** · 18/04/2023, 12h10

Elon Musk annonce qu'il travaille sur un concurrent à ChatGPT appelé TruthGPT et ajoute que son "IA recherche la vérité au maximum"
et essaie de comprendre la nature de l'univers

Elon Musk, propriétaire de Twitter, a annoncé qu'il travaillait sur "TruthGPT", une alternative à ChatGPT qui agirait comme une "IA maximisant la recherche de la vérité et qui essaie de comprendre la nature de l'univers". Il a exposé sa vision d'une alternative à ChatGPT lors d'une interview avec Tucker Carlson de Fox News, affirmant qu'une autre approche de la création d'IA est nécessaire pour éviter la destruction de l'humanité. Musk, qui a tenté sans succès ces dernières années de transmettre sa peur de l'IA à tout le monde, a ajouté que "TruthGPT pourrait être le meilleur chemin vers la sécurité qui ne risquerait pas d'anéantir les humains". Le nom du projet est toutefois critiqué.

Cela fait quelques semaines déjà que la rumeur court que Musk tente de rassembler des spécialistes de l'IA au sein d'une nouvelle unité pour créer un nouveau chatbot d'IA, en particulier un concurrent plus fiable à ChatGPT. Le milliardaire a finalement confirmé la rumeur lors d'une récente interview avec le journaliste Tucker Carlson de Fox News. Pour Musk, il est important de changer de vision et d'approche quant au développement de l'IA, car le chemin sur lequel l'humanité s'est engagée depuis quelques années risquerait de le conduire à sa propre perte. Il a affiché une opposition franche à la façon dont Google et OpenAI forment leurs modèles de langage.

Musk a déclaré lors de l'interview : « je vais lancer quelque chose que j'appelle TruthGPT ou une IA qui recherche la vérité au maximum et qui essaie de comprendre la nature de l'univers. Je pense que c'est peut-être la meilleure voie vers la sécurité, dans le sens où une IA qui se soucie de comprendre l'univers ne risque pas d'anéantir les humains parce que nous sommes une partie intéressante de l'univers ». Le natif de Pretoria a également réitéré ses mises en garde contre l'IA durant l'entretien, affirmant que "l'IA est plus dangereuse que, disons, une conception d'avion mal gérée ou une maintenance de production ou une mauvaise production de voitures".

What we need is TruthGPT
— Elon Musk (@elonmusk) February 17, 2023

Ces comparaisons ont toutefois très vite été tournées en dérision sur Internet, car, rappelons-le, les voitures électriques de Musk sont parmi les plus critiqués au monde. L'Autopilot, le système d'aide à la conduite de Tesla, serait truffé de bogues et ferait régulièrement des manœuvres dangereuses et l'option avancée, le Full Self-Driving (FSD), est dans une version bêta perpétuelle. Les noms des deux systèmes sont trompeurs, car ils ne font pas des Tesla des véhicules autonomes et sont considérés comme des systèmes de conduite autonome de niveau 2. Tesla est confronté à plusieurs plaintes sur le sujet et a déjà été condamné pour markéting mensonger.

Lors de l'interview avec Carlson, Musk a déclaré que l'IA a le potentiel de détruire la civilisation. Selon Musk, une IA "super intelligente peut écrire incroyablement bien et potentiellement manipuler les opinions publiques. Il a tweeté au cours du week-end qu'il avait rencontré Barack Obama lorsque ce dernier était président et qu'il lui avait dit que Washington devait "encourager la réglementation de l'IA". Lors de leur entrevue, Musk a comparé l'absence supposée de désir d'une IA de détruire toute l'humanité à la façon dont les humains s'efforcent de protéger les chimpanzés, ce qui est assez ironique compte tenu de la façon dont Neuralink les traite.

« Nous reconnaissons que l'humanité pourrait décider de chasser tous les chimpanzés et de les tuer. En fait, nous sommes heureux qu'ils existent et et nous aspirons à protéger leurs habitats », a déclaré Musk. Il a présenté TruthGPT comme une correction de trajectoire pour OpenAI, la société d'IA à but non lucratif qu'il a contribué à fonder en 2015 et qui a depuis commencé à exploiter une filiale à but lucratif. Musk a laissé entendre que les incitations au profit d'OpenAI pourraient potentiellement interférer avec l'éthique des modèles d'IA qu'elle crée et a positionné TruthGPT comme une option plus transparente. Il est devenu un grand critique d'OpenAI.

« Je ne comprends toujours pas comment une société à but non lucratif à laquelle j'ai fait un don de 100 millions de dollars est devenue une entreprise à but lucratif dont la capitalisation boursière s'élève à 30 milliards de dollars. Si c'est légal, pourquoi tout le monde ne le fait-il pas ? », a déclaré Musk dans l'une de ses récentes missives sur Twitter à l'encontre de la filiale à but lucratif du laboratoire, OpenAI Limited Partnership. Il affirme également que Microsoft tente de mettre la main sur la startup, la firme de Redmond a injecté plusieurs milliards de dollars dans OpenAI depuis 2019, ce qui lui confère un accès exclusif aux produits d'IA du laboratoire.

Ce n'est pas la première fois que Musk envisage de créer TruthGPT. Il a déclaré en février que le monde avait besoin d'un TruthGPT et a une fois de plus tenté d'attirer l'attention sur les risques des grands modèles de langage, tels que ceux élaborés par OpenAI. Fin mars, il a signé une lettre ouverte largement diffusée, rédigée par le Future of Life Institute (une association américaine cherchant à réduire les risques existentiels menaçant l’humanité, en particulier ceux provenant de l’IA), qui appelait à un moratoire de six mois sur le développement de modèles d'IA plus puissants que GPT-4, qui est actuellement le modèle d'IA le plus puissant d'OpenAI.

Les signataires de la lettre ont invoqué les risques d'un emballement de l'IA pour la civilisation humaine. Mais d'autres acteurs influents de l'industrie, dont Bill Gates et l'association LAION, ont trouvé l'idée d'une pause "ridicule". Bien que le concept de pause se soit avéré irréalisable, certains critiques ont affirmé peu après que Musk souhaitait une "pause" pour que ses entreprises puissent rattraper leur retard sur OpenAI. On ne sait pas exactement où en est le modèle de langage TruthGPT de Musk - si tant est qu'il existe à ce stade - mais il semble qu'il soit vraiment sérieux puisqu'il a évoqué le modèle lors de son entretien avec Carlson.

Musk a également créé discrètement une nouvelle entreprise d'IA, appelée X.AI, en mars. La rumeur indique en outre que Musk a acheté environ 10 000 GPU pour un projet d'IA générative au sein de Twitter (désormais X Corp). Cela signifie que la plateforme de médias sociaux pourrait bientôt commencer à construire ses propres modèles d'IA pour concurrencer les fabricants de produits d'IA tels que Google, Meta et OpenAI. La nature exacte du projet reste toutefois un mystère, mais Musk pourrait décider d'instiller la technologie de l'IA générative dans le populaire site de microblogging. Twitter pourrait probablement héberger TruthGPT.

Outre OpenAI, Musk a également accusé Sergey Brin et Larry Page, les cofondateurs de Google, de ne pas prendre au sérieux la sécurité de l'IA. La crainte de ChatGPT a poussé Google à rappeler Brin et Page pour l'aider à rivaliser avec le chatbot d'OpenAI. En décembre, Brin et Page auraient tenu plusieurs réunions avec des cadres de l'entreprise. Le sujet : ChatGPT apparaît comme la première menace notable depuis des décennies pour l'activité de recherche de Google. Ils auraient examiné la stratégie de Google, approuvé des plans et lancé des idées pour intégrer davantage de fonctionnalités de chatbot dans le moteur de recherche de Google.

Et vous ?

Quel est votre avis sur le sujet ?

Que pensez-vous de la description que Musk fait de son IA ?

Selon vous, ce projet est-il réalisable ? Quels sont les défis potentiels ?

Pensez-vous que Musk peut réellement proposer quelque chose de mieux que ChatGPT ?

Que pensez-vous du nom TruthGPT ? Musk n'usurpe-t-il pas une marque de son rival OpenAI ?

Voir aussi

Elon Musk aurait acheté des milliers de GPU pour un projet d'IA générative au sein de Twitter, des critiques suggèrent qu'il souhaitait une "pause" afin de rattraper son retard sur OpenAI

La crainte de ChatGPT oblige Google à engager ses fondateurs Sergey Brin et Larry Page dans la course à l'IA, ChatGPT menace l'activité de recherche de Google évaluée à 149 milliards de dollars

Elon Musk souhaite ardemment que des développeurs d'IA l'aident à créer un rival de ChatGPT plus performant et qui n'est pas "woke", il qualifie les filtres de ChatGPT de "préoccupants"

**_toma_** · 18/04/2023, 13h26

je vais lancer quelque chose que j'appelle TruthGPT ou une IA qui recherche la vérité au maximum et qui essaie de comprendre la nature de l'univers.

Ça va le melon ?

une IA qui se soucie de comprendre l'univers ne risque pas d'anéantir les humains parce que nous sommes une partie intéressante de l'univers

Ha bah oui, ça va.

**kaitlyn** · 18/04/2023, 19h47

Envoyé par Bill Fassinou

Elon Musk annonce qu'il travaille sur un concurrent à ChatGPT appelé TruthGPT et ajoute que son "IA recherche la vérité au maximum"
et essaie de comprendre la nature de l'univers

Mais ! Nous avons déjà la réponse à cette grande question !

**Prox_13** · 19/04/2023, 17h18

Envoyé par kaitlyn

Mais ! Nous avons déjà la réponse à cette grande question !

Faut croire que la réponse n'est pas suffisante pour le Mégalomusk

**walfrat** · 18/04/2023, 16h18

Ce sera plutôt "MirrorGPT" en mode "Miroir dit moi qui est le plu intelligent ? Elon Musk"

**Pierre Louis Chevalier** · 18/04/2023, 17h28

Après avoir réintégré Poutine et Donald Trump, et les autres plus grand menteurs de la planète, pour nous proposez "son Truth-Twitter" personnel, ou il met en avant ses amis politiques, et ferme les comptes de ses opposants, puis censure l'opposition indienne à la demande du gouvernement indien, on y crois...

Je pense que le vrai projet c'est de cloner un Chatgpt vite fait puis d'ajouter de la pub Tesla, Starlink et Tweeter, puis ça sera bouclé.

**PomFritz** · 19/04/2023, 21h17

ça part en vrille chez Twitter. Son Tweet du 1er avril arrive seulement maintenant. Du coup, j'ai peur qu'on prenne ça pour une vraie news.

D'un autre côté, tous ceux qui sont partis à la recherche de la véritable vérité vraie ont fini par se suicider...

**Madmac** · 21/04/2023, 02h25

Envoyé par PomFritz

ça part en vrille chez Twitter. Son Tweet du 1er avril arrive seulement maintenant. Du coup, j'ai peur qu'on prenne ça pour une vraie news.

D'un autre côté, tous ceux qui sont partis à la recherche de la véritable vérité vraie ont fini par se suicider...

Je préfère largement des IA capables d'avoir des doutes plutôt que de certitudes. Cela a plus de chance de nous éviter des scénarios comme le film "Colossus" ou "I, Robot" où des intelligences artificielles arrivent à la conclusion que l'humanité doit-être contrôlé pour son bien.

**walfrat** · 21/04/2023, 12h15

Envoyé par Madmac

Je préfère largement des IA capables d'avoir des doutes plutôt que de certitudes. Cela a plus de chance de nous éviter des scénarios comme le film "Colossus" ou "I, Robot" où des intelligences artificielles arrivent à la conclusion que l'humanité doit-être contrôlé pour son bien.

Quid de l'IA qui doute de laisser les humains autonomes ?

**Aiekick** · 19/04/2023, 21h22

je vois d'ici sont ia dire des propose super hellogieux a son endroit.

c'est marrant sont TruthGPT, ca me rappelle Truth Social de trump.

des gens qui prone la verité en sont les principaux falsificateur...

**virginieh** · 20/04/2023, 08h49

C'est comme Macron quand il voulait mettre en place des mesures anti fake news pendant que son gouvernement "assumait" de mentir à longueur de temps

**walfrat** · 20/04/2023, 10h26

Le racisme est une idéologie qui, partant du postulat1 de l'existence de races au sein de l'espèce humaine2, considère que certaines catégories de personnes sont intrinsèquement supérieures à d'autres2. Il se différencie ainsi du racialisme qui, partant du même postulat, ne considère pas les races comme inégales3. Cette idéologie peut amener à privilégier une catégorie de personne à une autre, qui se trouve reléguée à une classe sociale jugée inférieure et subit alors, de manière intersectionnelle, le mépris de classe en plus du racisme4. Le Petit Larousse a deux définitions du racisme, au sens strict du terme, comme « idéologie fondée sur la croyance qu'il existe une hiérarchie entre les groupes humains, les « races » ; comportement inspiré par cette idéologie », et au sens large du terme, comme « une attitude d’hostilité répétée voire systématique à l’égard d’une catégorie déterminée de personnes ».

https://fr.wikipedia.org/wiki/Racisme

Je m'en tiens aux définitions officielles, parce que si on utilise les mêmes mots mais avec chacun son interprétation, faut pas s'étonner que les discussions partent en vrille.

Selon la définition officielle, je vois mal comment il peut y avoir racisme sans suprémacisme.