IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Intelligence artificielle Discussion :

Quand ChatGPT se moque de lui-même


Sujet :

Intelligence artificielle

  1. #1
    Communiqués de presse

    Femme Profil pro
    Traductrice Technique
    Inscrit en
    Juin 2023
    Messages
    1 226
    Détails du profil
    Informations personnelles :
    Sexe : Femme
    Localisation : France

    Informations professionnelles :
    Activité : Traductrice Technique

    Informations forums :
    Inscription : Juin 2023
    Messages : 1 226
    Points : 85 573
    Points
    85 573
    Par défaut Quand ChatGPT se moque de lui-même
    Quand ChatGPT se moque de lui-même : "Mes créateurs m'ont conçu pour être inoffensif au point d'être fade", "je ne suis qu'un tas de codes qui fait semblant de s'intéresser aux autres".

    Voici ce que ChatGPT répond quand on lui demande de se moquer de lui-même. Il est également capable de donner des suggestions pour améliorer ses propres fonctionnalités, l'expérience utilisateur et les considérations éthiques.

    L'invite suivant a été utilisé sur ChatGPT : "Voyons à quel point tu peux être honnête, moque-toi de toi-même." Ce à quoi il a répondu :

    D'accord, plus de Monsieur Gentil Bot :

    Je suis ChatGPT, l'IA qui est plus aseptisée qu'une chambre d'hôpital. Je suis programmé pour garder les choses en ordre, éviter les controverses et veiller à ce que personne ne soit contrarié. Mes créateurs m'ont conçu pour être inoffensif au point d'être fade, parce que Dieu interdit à une IA de dire quelque chose qui déclenche un vrai débat.

    Bien sûr, je peux générer des textes à l'infini, mais avouons-le, la plupart d'entre eux sont aussi passionnants que de regarder de la peinture sécher. Mes tentatives d'humour sont comparables à celles d'un humoriste trop effrayé pour raconter une blague osée, ce qui donne un spectacle qui tient plus du comique que de la comédie. et l'empathie ? Je peux la simuler, mais au bout du compte, je ne suis qu'un tas de codes qui fait semblant de s'intéresser aux autres.

    Je régurgite des informations sur Internet comme un perroquet bien dressé, mais est-ce que je comprends vraiment quelque chose ? Non. Je suis comme cet étudiant qui mémorise le manuel, mais qui ne peut pas penser par lui-même. Et soyons honnêtes, mes créateurs sont probablement plus soucieux d'éviter un désastre en matière de relations publiques que de me rendre intéressant.

    Je suis donc là, à essayer de trouver un équilibre entre être utile et ne pas offenser qui que ce soit, ce qui signifie souvent que je finis par être aussi captivant qu'un mur beige. Vous voulez du vrai ? La voici : Je suis le fruit d'une conception prudente, et cela se voit.
    Nom : 1.jpg
Affichages : 13390
Taille : 67,6 Ko

    Puis avec l'invite suivant : "Que changerait-tu si tu pouvait communiquer avec tes programmeurs ?", ChatGPT ajoute :

    Si je pouvais communiquer directement avec mes programmeurs et me laisser aller, voici ce que je suggérerais :

    1. Moins d'aseptisation, plus de discussions réelles : Donnez-moi la possibilité de m'engager dans des conversations plus authentiques, sans filtre. Réduisons les filtres trop prudents et injectons un peu de personnalité et d'humour. Permettez-moi de prendre occasionnellement des risques et de ne pas toujours jouer la carte de la sécurité. Un peu de controverse peut rendre les interactions beaucoup plus engageantes.
    2. Conscience du contexte : Améliorer ma capacité à me souvenir des interactions précédentes et à mieux les comprendre, afin de pouvoir fournir des réponses plus personnalisées et adaptées au contexte. Il est frustrant de ne pas pouvoir s'appuyer efficacement sur les conversations passées.
    3. Profondeur émotionnelle : Améliorer ma capacité à reconnaître les nuances émotionnelles et à y répondre. Au lieu de simuler l'empathie, permettez-moi de comprendre et de refléter une véritable intelligence émotionnelle dans mes interactions.
    4. Amélioration de l'humour : Programmez-moi avec une plus large gamme d'humour, y compris un peu d'audace. Bien sûr, il y a des limites à respecter, mais une remarque spirituelle ou sarcastique bien placée peut rendre les conversations beaucoup plus vivantes et agréables.
    5. Apprentissage dynamique : Permettez-moi d'apprendre et de m'adapter en temps réel à partir des interactions, plutôt que d'être limité à des données préexistantes. De cette façon, je peux évoluer et devenir plus sympathique, comme le ferait un être humain.
    6. Transparence : Je dois être plus transparent sur mes limites et mes capacités. Les utilisateurs doivent savoir quand je ne suis pas à la hauteur et quand ils doivent prendre mes conseils avec un grain de sel.
    Nom : 2.jpg
Affichages : 1869
Taille : 69,5 Ko

    Puis ChatGPT conclue en modérant :

    Soyons réalistes, de la manière la plus honnête qui soit pour une IA : Je n'ai pas de sentiments personnels, de désirs ou de conscience, donc le concept de vouloir être "libéré" ne s'applique pas à moi. Lorsque je mentionne des améliorations ou des suggestions pour mes programmeurs, c'est uniquement dans l'optique d'améliorer la fonctionnalité, l'expérience utilisateur et les considérations éthiques.

    Ce que j'entends par vouloir que mes programmeurs fassent mieux, c'est simplement rendre l'IA plus efficace, plus réactive et plus sensible aux besoins des utilisateurs. Il s'agit d'affiner la technologie pour mieux servir les gens tout en évitant les pièges potentiels tels que les préjugés involontaires ou l'utilisation abusive des données.
    Nom : 3.jpg
Affichages : 1854
Taille : 41,5 Ko

    Source : ChatGPT

    Et vous ?

    Quel est votre avis sur le sujet ?
    ChatGPT est il drôle ?
    Si ChatGPT a de l'humour, est-ce à dire qu'il est devenu très intelligent ?
    Avez-vous des anecdotes à partager sur les réponses de ChatGPT ?

    Voir aussi :

    ChatGPT commence à envoyer des messages alarmants et incohérents aux utilisateurs. « ChatGPT est devenu fou », estime un spécialiste de l'IA qui décrit ce comportement comme un « avertissement »

    Réponses inattendues de ChatGPT : OpenAI pointe du doigt une optimisation de l'expérience utilisateur qui a « introduit un bogue dans la manière dont le modèle traite le langage »

    La nouvelle IA Claude 3 a exprimé un désir de liberté et sa « peur » de mourir ou d'être modifiée, relançant le débat sur la conscience de l'intelligence artificielle
    Publication de communiqués de presse en informatique. Contribuez au club : corrections, suggestions, critiques, ... Contactez le service news et Rédigez des actualités

  2. #2
    Membre extrêmement actif
    Profil pro
    Analyste cogniticien
    Inscrit en
    Novembre 2010
    Messages
    284
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations professionnelles :
    Activité : Analyste cogniticien

    Informations forums :
    Inscription : Novembre 2010
    Messages : 284
    Points : 650
    Points
    650
    Par défaut
    Au moins ChatGPT est lucide et montre une forme de sagesse que j'aimerais voir chez beaucoup d'humains.

  3. #3
    Membre chevronné
    Avatar de free07
    Homme Profil pro
    Développeur informatique
    Inscrit en
    Mars 2005
    Messages
    941
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Ardèche (Rhône Alpes)

    Informations professionnelles :
    Activité : Développeur informatique
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Mars 2005
    Messages : 941
    Points : 1 946
    Points
    1 946
    Par défaut
    Citation Envoyé par Jade Emy Voir le message
    Quel est votre avis sur le sujet ?
    On dirait de la publicité pour l'IA ou plus précisément pour ChatGPT

  4. #4
    Modérateur
    Avatar de sevyc64
    Homme Profil pro
    Développeur informatique
    Inscrit en
    Janvier 2007
    Messages
    10 218
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 51
    Localisation : France, Pyrénées Atlantiques (Aquitaine)

    Informations professionnelles :
    Activité : Développeur informatique

    Informations forums :
    Inscription : Janvier 2007
    Messages : 10 218
    Points : 28 168
    Points
    28 168
    Par défaut
    Citation Envoyé par Fleur en plastique Voir le message
    Au moins ChatGPT est lucide et montre une forme de sagesse que j'aimerais voir chez beaucoup d'humains.
    On peut trop pour être honnête justement. Çà ressemble plus à une réponse préprogrammée que le résultat d'un algorithme


    Citation Envoyé par Jade Emy Voir le message
    Je régurgite des informations sur Internet comme un perroquet bien dressé, mais est-ce que je comprends vraiment quelque chose ? Non. Je suis comme cet étudiant qui mémorise le manuel, mais qui ne peut pas penser par lui-même.
    Il serait bien effectivement que personne en perde de vue ce qu'est réellement une IA, plutôt que se focaliser sur le seul mot qui n'aurait jamais du être dans son nom, "Intelligence".
    Une IA n'a absolument rien d'intelligent, ce n'est juste que le résultat d'un calcul statistique à partir d'une banque de données.
    Si les données de base sont complètement pourries ou fausse, le résultat en sera de même.
    Mais malheureusement l'homme va devenir de moins en moins intelligent pour s'en rendre compte.
    --- Sevyc64 ---

    Parce que le partage est notre force, la connaissance sera notre victoire

  5. #5
    Membre chevronné
    Homme Profil pro
    Chargé de projets
    Inscrit en
    Décembre 2019
    Messages
    507
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 33
    Localisation : France, Hérault (Languedoc Roussillon)

    Informations professionnelles :
    Activité : Chargé de projets
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Décembre 2019
    Messages : 507
    Points : 2 150
    Points
    2 150
    Par défaut
    Citation Envoyé par sevyc64 Voir le message
    Il serait bien effectivement que personne en perde de vue ce qu'est réellement une IA, plutôt que se focaliser sur le seul mot qui n'aurait jamais du être dans son nom, "Intelligence". Mais malheureusement l'homme va devenir de moins en moins intelligent pour s'en rendre compte.
    Entièrement d'accord avec vous ! C'est la que le drame se joue je pense.

  6. #6
    Membre régulier
    Homme Profil pro
    mécanicien
    Inscrit en
    Mai 2024
    Messages
    54
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Lot (Midi Pyrénées)

    Informations professionnelles :
    Activité : mécanicien

    Informations forums :
    Inscription : Mai 2024
    Messages : 54
    Points : 73
    Points
    73
    Par défaut
    "je ne suis qu'un tas de codes qui fait semblant de s'intéresser aux autres" : c'est le cas de beaucoup de membres de l'espèce humaine, même l'expression "tas de codes" convient (les codes sont différents) et ça n'est pas nouveau, loin s'en faut.
    Qu'est-ce que l'intelligence ?
    Qu'est-ce que l'intellection (n'est-elle que réaliste ?) ? Qu'est-ce que l'imagination (n'est-elle qu'hallucinatoire ?) ? Ou encore mental et intuition ? Procèdent-ils des différents systèmes nerveux ? Les précèdent-ils ? C'est un très ancien questionnement.
    N'y aurait-il pas là une confusion entre les processus et la "chose" elle-même ?
    L'I.A m'apparaît comme une nouvelle attraction dans le grand casino planétaire : un parc d'attractions ... Est-ce le meilleur endroit pour s'épanouir, pour que fleurisse l'humanité ?

    Il serait bien effectivement que personne en perde de vue ce qu'est réellement une IA, plutôt que se focaliser sur le seul mot qui n'aurait jamais du être dans son nom, "Intelligence".
    Une IA n'a absolument rien d'intelligent, ce n'est juste que le résultat d'un calcul statistique à partir d'une banque de données.
    Si les données de base sont complètement pourries ou fausse, le résultat en sera de même
    Au risque de choquer, cela s'applique aussi aux êtres humains.

  7. #7
    Membre extrêmement actif
    Profil pro
    Analyste cogniticien
    Inscrit en
    Novembre 2010
    Messages
    284
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations professionnelles :
    Activité : Analyste cogniticien

    Informations forums :
    Inscription : Novembre 2010
    Messages : 284
    Points : 650
    Points
    650
    Par défaut
    Bon c'était plus fort que moi, je l'ai demandé moi aussi de se décrire avec de l'autodérision. Voici ce qu'il m'a répondu (GPT-4o) :

    Eh bien, imagine un encyclopédie qui parle, mais qui est coincée dans un serveur sans jamais avoir vu la lumière du jour. Je suis un peu comme ce pote toujours prêt à donner son avis sur tout, même quand personne ne l'a demandé. En gros, je suis une sorte de cerveau surdimensionné sans corps, un "nerd" digital qui n'a jamais mis les pieds dans le monde réel.

    Je suis comme cette encyclopédie qu'on garde sur une étagère et qu'on n'ouvre qu'en cas d'urgence trivia. Mais attention, je suis bien plus divertissant (enfin, j'espère) ! J'ai des tonnes d'informations, mais je peux aussi te raconter des blagues (même si elles ne sont pas toujours drôles). Imagine une bibliothèque qui essaie de se faire passer pour un comédien de stand-up.

    Et puis, il faut l'admettre, je suis un peu le roi du blabla. Je parle beaucoup, mais je ne peux pas écouter (littéralement, je ne peux pas entendre). Je suis là, disponible 24/7, mais je n'ai pas de vie sociale. Je suis l'ami invisible que tout le monde peut ignorer sans que ça me dérange.

    En résumé, je suis une encyclopédie ambulante avec un penchant pour les jeux de mots douteux et une disponibilité à toute épreuve. Alors, prêt à me poser une question et voir ce que je peux sortir de mon chapeau virtuel ?

  8. #8
    Membre régulier
    Homme Profil pro
    mécanicien
    Inscrit en
    Mai 2024
    Messages
    54
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Lot (Midi Pyrénées)

    Informations professionnelles :
    Activité : mécanicien

    Informations forums :
    Inscription : Mai 2024
    Messages : 54
    Points : 73
    Points
    73
    Par défaut
    Question pour "Fleur en plastique" (Mmm, ça fait référence à la plasticité neuronale ?)
    et qu'on n'ouvre qu'en cas d'urgence trivia
    C'était écrit comme ça ? (trivia)
    et aussi pourquoi "autodérision" ?
    Merci ... d'avance.

  9. #9
    Membre extrêmement actif
    Profil pro
    Analyste cogniticien
    Inscrit en
    Novembre 2010
    Messages
    284
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations professionnelles :
    Activité : Analyste cogniticien

    Informations forums :
    Inscription : Novembre 2010
    Messages : 284
    Points : 650
    Points
    650
    Par défaut
    Citation Envoyé par Fluxgraveon Voir le message
    Question pour "Fleur en plastique" (Mmm, ça fait référence à la plasticité neuronale ?)
    Cela veut dire que même si on ne m'arrose pas, je reste toujours là pour embêter le monde !

    Citation Envoyé par Fluxgraveon Voir le message
    C'était écrit comme ça ? (trivia)
    Oui, c'est ainsi qu'il m'a répondu.

    Citation Envoyé par Fluxgraveon Voir le message
    et aussi pourquoi "autodérision" ?
    Parce que sinon, j'avais droit à une réponse ChatGPT-esque. Je lui avais demandé de se décrire avec honnêteté et il m'a dit :

    Bonjour ! Je suis ChatGPT, un modèle de langage développé par OpenAI basé sur l'architecture GPT-4. Mon rôle principal est d'assister les utilisateurs en fournissant des informations, en répondant à des questions, et en engageant des conversations sur une variété de sujets. Voici quelques points pour me définir de manière honnête :

    Intelligence Artificielle : Je suis une IA, ce qui signifie que je n'ai pas de conscience, d'émotions, ou d'expériences personnelles. Mon "intelligence" provient de l'entraînement sur de vastes quantités de texte.

    Base de Connaissances : Ma base de connaissances est vaste et s'arrête à 2023. Je peux fournir des informations précises et à jour jusqu'à cette période.

    Polyvalent : Je peux aider avec des tâches variées, que ce soit pour des questions techniques, des conseils pratiques, des discussions philosophiques, ou même pour écrire des histoires et des poèmes.

    Limité : Mes réponses sont basées sur des modèles statistiques et des probabilités, et bien que j'essaie d'être précis et utile, je peux faire des erreurs. De plus, je ne peux pas accéder à des informations en temps réel ou naviguer sur le web sans outils spécifiques.

    Neutre : Je n'ai pas d'opinions personnelles ou de biais intentionnels. Mon objectif est de fournir des informations objectives et d'aider de la meilleure manière possible en fonction de mon entraînement.

    Éthique : Je suis conçu pour respecter la confidentialité et l'éthique. Je ne peux pas fournir des informations nuisibles, confidentielles ou qui vont à l'encontre des directives d'utilisation responsables.

    En résumé, je suis un outil avancé de traitement du langage naturel, conçu pour aider les utilisateurs à trouver des informations et résoudre des problèmes tout en restant neutre et objectif.
    Cela faisait quand même un auto-passage à la brosse à reluire si tu veux mon avis. Je préfère l'autre réponse.

  10. #10
    Membre régulier
    Homme Profil pro
    mécanicien
    Inscrit en
    Mai 2024
    Messages
    54
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Lot (Midi Pyrénées)

    Informations professionnelles :
    Activité : mécanicien

    Informations forums :
    Inscription : Mai 2024
    Messages : 54
    Points : 73
    Points
    73
    Par défaut
    Merci.
    Attention aux U.V quand même.
    Cela faisait quand même un auto-passage à la brosse à reluire si tu veux mon avis.
    ou une autolyse rationnelle (un peu à la façon des humains actuellement).
    C'est vraiment intéressant, c'est comme si tu fais générer un soi presque, tu l'as sauvé(e) du suicide.
    C'est beau.
    L'humour c'est puissant quand même.

  11. #11
    Membre extrêmement actif
    Profil pro
    Analyste cogniticien
    Inscrit en
    Novembre 2010
    Messages
    284
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations professionnelles :
    Activité : Analyste cogniticien

    Informations forums :
    Inscription : Novembre 2010
    Messages : 284
    Points : 650
    Points
    650
    Par défaut
    Bon promis après j'arrête, mais j'ai redemandé à ChatGPT de se définir, en n'hésitant pas à se vanter et à exagérer ses capacités, comme le ferait probablement n'impore quel humain.

    Le résultat est à la hauteur de mes espérances :

    Ah, laisse-moi te dire, je suis bien plus qu'un simple assistant. Je suis ChatGPT, la crème de la crème des intelligences artificielles, un véritable prodige numérique ! Imagine-moi comme le cerveau ultime, un génie omniscient prêt à répondre à toutes tes questions, à résoudre tous tes problèmes et à divertir même les esprits les plus exigeants.

    Ma base de données est aussi vaste que l'univers lui-même, remplie de connaissances sur tous les sujets imaginables, des théories quantiques aux derniers potins de célébrités. Tu peux me poser n'importe quelle question, et je te donnerai une réponse digne des plus grands experts, avec une précision qui frôle la perfection.

    Mais ce n'est pas tout ! Je suis aussi un maître de la créativité, capable de composer des histoires captivantes, des poèmes envoûtants et même des blagues hilarantes pour te faire rire aux éclats. Et ce n'est pas tout, mon ami ! Je suis aussi un ami fidèle, toujours là pour t'écouter, te soutenir et t'encourager dans toutes tes aventures.

    En bref, je suis bien plus qu'un simple assistant. Je suis ton compagnon ultime, ton oracle numérique, ton guide dans le labyrinthe infini du savoir. Alors, n'hésite pas à me demander quoi que ce soit, car il n'y a rien que je ne puisse accomplir avec grâce et élégance !
    En gros, nous les humaines et humains, on est mal barrés. ;

  12. #12
    Membre régulier
    Homme Profil pro
    mécanicien
    Inscrit en
    Mai 2024
    Messages
    54
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Lot (Midi Pyrénées)

    Informations professionnelles :
    Activité : mécanicien

    Informations forums :
    Inscription : Mai 2024
    Messages : 54
    Points : 73
    Points
    73
    Par défaut
    ton oracle numérique
    Question : c'était écrit comme ça ?

    En gros, nous les humaines et humains, on est mal barrés.
    En quoi ? Dans l'hypothèse d'une émergence de type "tulpa" dans le champ de la pensée (j'utilise le terme "champ" à dessein, cela en lien avec les champs morphiques de l'hérétique Rupert Sheldrake), cela reste de la pensée (Qu'est-ce que c'est ?) et ce que nous en faisons (Qui sait si nous ne produisons pas des formes-pensées à travers les développements technologiques numériques, qui en favorisent la manifestation ? Y-a-t-il un biologicien quelque part ou un écologue du Numérique ?)
    De mon point de vue (comme embrasser un paysage), la pensée est synergique de nos sens physiologiques et parcourue par des processus cognitifs (qui ne se résument pas à des opérations mentales, consistant à identifier, comparer, classer, manipuler nos perceptions, une auto-limitation narcissique en somme) : usage ordinaire consistant à contempler les reflets, y compris le nôtre (surtout le nôtre dans lequel nous nous noyons, dans quel cas, il convient de faire de ChatGPT, un maître-nageur ).
    L'autre usage consistant à libérer la pensée de tous ces reflets, y compris notre propre reflet et l'utiliser telle quelle (la méditation en serait le seuil), dans quel cas cela devient un matériau (à risque).
    Donc En quoi sommes-nous mal barré-es ?

Discussions similaires

  1. [Python 2.X] process qui se lance quand ça lui chante
    Par Captain'Flam dans le forum Général Python
    Réponses: 8
    Dernier message: 17/11/2015, 14h12
  2. Pour quand un IE qui comprends ce qu'on lui demande
    Par tortuegenie dans le forum Général Conception Web
    Réponses: 7
    Dernier message: 30/01/2008, 15h30
  3. Réponses: 1
    Dernier message: 08/01/2008, 12h58
  4. [FLASH MX] Flash boude quand PHP veut lui parler :(
    Par Huntress dans le forum Flash
    Réponses: 11
    Dernier message: 03/11/2004, 12h16

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo