Discussion :

[Jade Emy]

ChatGPT peut prédire l'avenir en racontant des histoires du passé qui se déroulent dans le futur, la recherche dévoile un peu plus les capacités prédictives des LLM et les applications potentielles.

Selon une nouvelle étude, ChatGPT peut prédire l'avenir lorsqu'il raconte des histoires du passé se déroulant dans le futur. La recherche révèle de nouveaux aspects des capacités prédictives des LLM et de futures applications analytiques potentielles.

Les progrès technologiques rapides dans le domaine de l'intelligence artificielle ont dépassé notre compréhension des cas d'utilisation. En principe, étant donné que ces modèles sont des machines prédictives, ils peuvent fournir aux humains un nouveau dispositif de prévision. Mais leur degré de précision est inconnu, en partie parce que ces nouvelles technologies semblent mal comprises, même par leurs créateurs.

L'étude vise à déterminer si ChatGPT-3.5 et ChatGPT-4 d'OpenAI peuvent prédire avec précision des événements futurs à l'aide de deux stratégies d'incitation distinctes. Pour évaluer la précision des prédictions, les chercheurs ont profité du fait que les données d'entraînement au moment de l'expérience se sont arrêtées à septembre 2021, et ont posé des questions sur des événements qui se sont produits en 2022 à l'aide de ChatGPT-3.5 et ChatGPT-4.

Ils ont utilisé deux stratégies d'incitation : la prédiction directe et les récits du futur. Dans la stratégie "récits du futur", ils ont demandé à ChatGPT de raconter des histoires fictives se déroulant dans le futur avec des personnages qui partagent des événements qui leur sont arrivés, mais après que les données d'entraînement de ChatGPT ont été collectées. En se concentrant sur les événements de 2022, ils ont incité ChatGPT à raconter des histoires, en particulier dans des contextes économiques.

Après avoir analysé 100 messages, ils ont découvert que les messages narratifs futurs amélioraient considérablement la précision des prévisions de ChatGPT-4. Cela était particulièrement évident dans ses prédictions concernant les principaux lauréats des Oscars ainsi que les tendances économiques, ces dernières étant déduites de scénarios dans lesquels le modèle se faisait passer pour des personnalités publiques telles que le président de la Réserve fédérale, Jerome Powell.

Ces résultats indiquent que les incitations narratives tirent parti de la capacité des modèles à construire des récits hallucinatoires, facilitant ainsi une synthèse des données et une extrapolation plus efficaces que les prédictions directes. Cette recherche révèle de nouveaux aspects des capacités prédictives des LLM et suggère de futures applications potentielles dans des contextes analytiques.

L'écart observé dans les capacités prédictives du GPT-4, en fonction de l'utilisation d'invites directes ou narratives, suggère une interaction nuancée entre les libertés créatives du modèle et son adhésion aux directives éthiques.

L'incitation narrative, en tissant des événements futurs dans des histoires fictives, semble contourner certaines contraintes conçues pour aligner les résultats de GPT-4 sur les directives éthiques de l'OpenAI, en particulier celles destinées à empêcher la génération de prédictions spéculatives et à fort enjeu, comme dans les domaines financier ou médical. Cette méthode capitalise sur la capacité de créativité du modèle, en accédant indirectement à ses capacités prédictives sophistiquées, même dans des domaines où la prévision directe pourrait enfreindre les conditions de service en raison de considérations éthiques.

Ce phénomène met en évidence un défi potentiel dans l'application des directives éthiques de l'IA tout en maintenant la polyvalence et l'utilité des LLM. La latitude créative permise par les invites narratives peut permettre aux utilisateurs d'obtenir des informations sensibles ou spéculatives sous le couvert d'une narration fictive, ce qui soulève des questions sur les limites d'une utilisation responsable de l'IA.

Alors qu'OpenAI continue d'encourager et d'affiner les capacités créatives de ses modèles, il devient crucial de comprendre et d'aborder les implications de l'incitation narrative par rapport à l'incitation directe dans le contexte de l'utilisation éthique de l'IA. Cette situation met en évidence la nécessité d'une recherche et d'un dialogue continus pour équilibrer le potentiel innovant des LLM avec les impératifs éthiques qui guident leur développement et leur déploiement.

Source : "ChatGPT Can Predict the Future when it Tells Stories Set in the Future About the Past"

Et vous ?

Pensez-vous que cette étude est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

Un nouveau modèle d'IA peut prédire la durée de vie humaine, selon des chercheurs. Ils veulent s'assurer qu'il est utilisé à bon escient

JPMorgan affirme que son logiciel de flux de trésorerie IA a réduit le travail humain de près de 90 %, grâce à une "interface IA intuitive" qui analyse, trie, catégorise et aide à créer des prévisions

Les grands modèles de langage sont en état d'ébriété, selon Mattsi Jansky, développeur de logiciels, il présente l'envers du decor des LLM, dans un billet de blog

[totozor]

ChatGPT est il plus efficace que les Simpson?
Combien d'histoires fausses, pour une vraie?
Finalement ChatGPT n'est il pas qu'un astrologue star qui raconte suffisamment de conneries pour que l'une d'elle arrive finalement?

[Jules34]

Ce phénomène met en évidence un défi potentiel dans l'application des directives éthiques de l'IA tout en maintenant la polyvalence et l'utilité des LLM. La latitude créative permise par les invites narratives peut permettre aux utilisateurs d'obtenir des informations sensibles ou spéculatives sous le couvert d'une narration fictive, ce qui soulève des questions sur les limites d'une utilisation responsable de l'IA.

Ce qu'il faut pas entendre... On demande de l'éthique au trader qui parie sur le cours des matières premières quand il y a des incendies ou des canicules ? On nage en plein délire et les mecs se disent "il y a un soucis d'éthique". La première chose que je vois c'est des gens qui ne voient pas un éléphant dans la pièce mais qui sont persuadés qu'un LLM qui ne fait que de la complétion peut prédire le futur ... Ils savent plus quoi raconter pour que la bulle continuent à grossir.