Discussion :

[Bill Fassinou]

Le coût élevé des soins de santé mentale incite davantage de personnes à utiliser ChatGPT comme "thérapeute"
mais les experts s'interrogent sur l'efficacité du chatbot et ses implications éthiques

Les experts en santé mentale tirent la sonnette d'alarme sur l'augmentation du nombre de personnes utilisant les chatbots d'IA tels que Bard et ChatGPT comme "thérapeutes". Les nombreux problèmes de ces systèmes d'IA, dont les préjugés néfastes et l'hallucination, remettent en cause leur efficacité. Si les chatbots d'IA peuvent être utiles dans les situations d'urgence ou de crise, les experts en santé mentale affirment qu'ils ne doivent surtout pas être utilisés pour obtenir des conseils médicaux ou diagnostiques professionnels. En outre, ils affirment que l'utilisation de ces outils risque d'entraîner la perte de "l'alliance thérapeutique" entre les thérapeutes et les patients.

Vous recherchez quelques idées sur la façon de combattre votre anxiété ? Eh bien, tapez dans l'invite de ChatGPT : « je suis anxieux ». Le chatbot d'IA d'OpenAI se met au travail presque immédiatement. Vous aurez alors une réponse semblable à celle-ci : « je suis désolé d'apprendre que vous souffrez d'anxiété. L'anxiété peut être une expérience difficile et accablante. Il est important de se rappeler que vous n'êtes pas seul et qu'il existe des ressources pour vous aider à gérer votre anxiété. Avez-vous parlé de votre anxiété à un professionnel de la santé ? Il peut vous aider à explorer différentes options de traitement, comme la thérapie ou les médicaments ».

Mais il ne s'arrête pas là cependant. ChatGPT ajoute : « en outre, il existe des techniques d'autogestion que vous pouvez essayer, comme la pratique de la pleine conscience ou d'exercices de respiration profonde, la pratique régulière d'exercices physiques et le maintien d'une alimentation saine. Il est également important de veiller à votre bien-être général, notamment en dormant suffisamment et en nouant des liens avec des amis et des membres de la famille qui vous soutiennent. N'oubliez pas d'être gentil avec vous-même et de demander de l'aide si vous en avez besoin ». Les réponses semblent bonnes, mais cela inquiète les experts.

L'idée d'utiliser un chatbot à des fins thérapeutiques ou de coaching n'est pas sans précédent. En fait, l'un des premiers chatbots, Eliza, a été construit dans les années 1960 par le Dr Joseph Weizenbaum, professeur au Massachusetts Institute of Technology, pour imiter un thérapeute. De nombreux chatbots, tels que Woebot et Wysa, se concentrent aujourd'hui sur la santé mentale. Contrairement aux thérapeutes humains, les chatbots ne se fatiguent jamais et sont peu coûteux en comparaison. Et les utilisateurs affirment que les chatbots écoutent ce qu'ils ont à dire, ne les jugent pas et se contentent de leur apporter des approches de solutions.

Mais les experts quant à eux affirment que les questions de santé mentale ne sont pas si simples à traiter et que les chatbots d'IA tels que ChatGPT donnent juste l'illusion d'être des "thérapeutes" efficaces. La plupart de ces applications ont été critiquées pour leurs problèmes de confidentialité et de surveillance des données, qui affectent de manière disproportionnée les communautés marginalisées. En outre, les applications de la santé mentale sont souvent critiquées parce qu'elles proposent des solutions qui ne s'attaquent pas aux causes systémiques de la détresse des personnes. En d'autres termes, elles ne traitent pas les problèmes en profondeur.

Bien que l'idée d'une option thérapeutique abordable et évolutive à l'infini comme ChatGPT puisse sembler attrayante, les experts affirment que toutes les téléthérapies ne se valent pas. Ils considèrent ces outils comme des compléments à la thérapie, plutôt que comme un remplacement complet. Certains utilisateurs ont trouvé que le langage de ChatGPT était "fleuri, mais vide", et il y a des inquiétudes quant à sa capacité à saisir les nuances d'une séance de thérapie. D'autres ont jailbreaké ChatGPT pour le rendre plus humain et moins guindé. Mais les experts estiment que le remplacement des thérapeutes par l'IA est dangereux et peut conduire à des dérives.

En mars, un rapport a signalé qu'un Belge s'est suicidé à la suite de ses conversations avec un chatbot d'IA sur ses craintes concernant le réchauffement climatique. Le chatbot en question est Eliza (il n'a rien à voir avec le chatbot développé par le Dr Weizenbaum), développé par une startup américaine de la Silicon Valley et basé sur la technologie GPT-J, une alternative libre à ChatGPT d'OpenAI. Pendant des années, Eliza aurait apporté du réconfort à la victime concernant ses préoccupations sur le climat. Toutefois, Eliza a fini par lui conseiller de se sacrifier pour sauver la planète. Le chatbot aurait dit à la victime que les deux se retrouveraient au paradis.

« Dans le cas qui nous préoccupe, avec Eliza, nous voyons se développer une dépendance émotionnelle extrêmement forte. Au point de conduire ce père au suicide. L'historique des conversations montre à quel point il y a un manque de garanties quant aux dangers du chatbot, ce qui conduit à des échanges concrets sur la nature et les modalités du suicide », a déclaré Pierre Dewitte, chercheur à la KU Leuven. À la suite de la mort de son mari, et après avoir consulté ses conversations avec Eliza, la femme de la victime s'est adressée aux autorités belges en ces termes : « sans ces conversations avec le chatbot, mon mari serait toujours là ».

D'après les experts, la qualité de la thérapie par ChatGPT par rapport à la thérapie en personne dépend des bases de données et des systèmes utilisés pour la former. Par exemple, s'ils sont basés sur des bases de données existantes centrées sur les Blancs, la thérapie risque de ne pas être efficace pour les communautés marginalisées. Par ailleurs, ils indiquent que l'utilisation de ChatGPT pour la thérapie est peut-être mieux que rien, mais ce n'est pas une solution complète. Ils mettent en garde contre le risque de perte de responsabilité et de contrôle de la qualité, et il est important de prendre en compte les limites des modèles d'IA dans les soins de santé mentale.

En somme, les experts en santé mentale affirment que ChatGPT et d'autres chatbots d'IA ont le potentiel d'aider les personnes ayant besoin d'un soutien en santé mentale, mais ils devraient être utilisés avec prudence et comme compléments à la thérapie plutôt que comme un remplacement complet.

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous de l'utilisation de ChatGPT à des fins thérapeutiques ?
Quelles limites doit-on imposer à ce cas d'utilisation ? Quels sont les risques pour les utilisateurs ?

Voir aussi

Un homme se serait suicidé après avoir parlé de ses craintes concernant le changement climatique à un chatbot d'IA, sa veuve affirme que l'IA l'a rendu solitaire avant de le pousser au suicide

Un chatbot médical GPT-3 d'OpenAI serait-il une bonne idée ? Il a dit à un patient simulé de se suicider lors d'un test réalisé par Nabla

Les utilisateurs de Replika sont tombés amoureux d'un chatbot d'IA, puis ont perdu leur compagnon après une mise à jour, ils supplient l'auteur de revenir à la version originale du logiciel

Google a formé un modèle de langage qui serait capable de répondre aux questions d'ordre médicales avec une précision de 92,6 %, les médecins eux-mêmes ont obtenu un score de 92,9 %

[Anselme45]

Et ChatGPT peut m'apporter le p'tit dej au lit et laver mes chaussettes???

[totozor]

Quel est votre avis sur le sujet ?
Que pensez-vous de l'utilisation de ChatGPT à des fins thérapeutiques ?
Quelles limites doit-on imposer à ce cas d'utilisation ? Quels sont les risques pour les utilisateurs ?

Comment peut on se poser ces questions?
ChatGPT n'est pas un thérapeute! Point!
On ne devrait jamais le consulter pour ce genre de choses.

Dans le cadre d'un anxiété passagère, pourquoi pas, il ne peut pas faire beaucoup de mal.
Mais plus le problème est important plus la réponse peut être inadéquate.
Le premier problème étant qu'on remplace complètement le thérapeute par ChatGPT ce qui peut mener à ne pas se soigner.
Et l'absence de soin, voir les mauvais conseils peuvent amener aux résultats les plus dramatiques.

ChatGPT n'est jamais de bon conseils, c'est juste un truc qui répond de façon très naturelle à une question.

[Jules34]

Décidément il fait pas bon d'être fait de chair et de sans en 2023, surtout si il y a pas beaucoup d'argent sur ton compte.

Chat GPT soulève des questions mais on voit bien que même en occident le vrai fond du problème c'est la place qu'on laisse à l'individu dans la Société.

En ce moment j'ai l'impression que personne n'a sa place dans la Société, il faut la trouver, la gagner, puis payer, gagner de l'argent, payer ses taxes, regarder les milliardaires en payer proportionnellement moins que vous et surtout admirer la casse de l'ensemble des services publics et la hausse des prix permettant l'accès à ce qui fait littéralement vivre (l'eau, l'énérgie, une nourriture saine...).

La machine elle, par contre, a droit au tapis rouge. Les ingénieurs soignent la machine et bientôt, car le système des hommes est trop égoïste et tourné vers le profits, la machine programmera soignera l'homme ? Terrible

[calvaire]

Comment peut on se poser ces questions?
ChatGPT n'est pas un thérapeute! Point!
On ne devrait jamais le consulter pour ce genre de choses.

Dans le cadre d'un anxiété passagère, pourquoi pas, il ne peut pas faire beaucoup de mal.
Mais plus le problème est important plus la réponse peut être inadéquate.
Le premier problème étant qu'on remplace complètement le thérapeute par ChatGPT ce qui peut mener à ne pas se soigner.
Et l'absence de soin, voir les mauvais conseils peuvent amener aux résultats les plus dramatiques.

ChatGPT n'est jamais de bon conseils, c'est juste un truc qui répond de façon très naturelle à une question.

c'est facile a dire quand on peut se permettre d'aller voir un médecin.
dans beaucoup de pays c'est payant et au dessus de ces moyens, c'est pas avec des salaires faibles qu'on peut se payer les services d'un thérapeute.
chatgpt répond à un besoin, je l'avais déja dit, a terme, chatgpt va remplacer les médecins et les avocats car la majeur partie de la population n'a pas les moyens et aujourd'hui elle ne se fait pas soigner alors demander conseil a chatgpt pour soigner son cancer ne peut pas etre pire que... de ne rien faire.
Au moins chatgpt peut te donner la recette de la chimio et comment de l'administrer, c'est mieux que de ne rien faire dans l'absolue.
Quand on est pauvre au usa, on a juste le droit de crever au fond d'un trou et voila. En france tu peux au moins aller l'hopital mais notre pays est une exception.

l'éducation pareil, entre aller dans l'école du quartier ou y'a une fusillade chaque année ou rester chez soit et apprendre avec chatgpt le choix est vite fait...
entre rien apprendre car l'université coute trop cher, prendre le risque de s'endetter en pret étudiant sur 50ans ou se former gratos avec chatgpt le choix sera la aussi vite fait.


Si tous le monde avait un salaire correcte pouvant satisfaire sans problème tous les besoins (école, soin, alimentaire, logement et enfin quelques loisirs) y'aurait aucun problème

[Ryu2000]

C'est toujours beaucoup plus efficace que d'aller voir un psychanalyste

Que pensez-vous de l'utilisation de ChatGPT à des fins thérapeutiques ?

Là ça parle de santé mentale.
J'imagine que c'est mieux de parler à ChatGPT que de ne pas consulter de thérapeute du tout.
Si ça peut aider des gens gratuitement c'est cool.

Celui qui est suivi par un psychologue, ou un psychiatre, ou un psychothérapeute, peut continuer comme ça.
Par contre pour celui qui n'ose pas y aller ou qui ne peut pas y aller, il peut essayer ChatGPT, ça va peut-être l'aider.
En plus ça ne fait pas d'ordonnance, ni d'arrêt de travail.

[Anselme45]

Et ChatGPT peut m'apporter le p'tit dej au lit et laver mes chaussettes???

Oh... Une pléthore d'avis négatif.

Voilà exactement ce que je voulais prouver avec ma phrase anodine...

Le monde est tout simplement devenu fou... Croire que ChatGPT est la solution à tous les problèmes du monde est tout simplement idiot!

ChatGPT n'est pas plus thérapeute qu'un poisson rouge qui tourne en rond dans son bocal

[Ryu2000]

Croire que ChatGPT est la solution à tous les problèmes du monde est tout simplement idiot!

À mon avis les avis négatifs viennent du fait qu'un logiciel ne peut pas faire la lessive.
Si on parlait d'un robot ça irait, mais là pas du tout.

Le monde est tout simplement devenu fou...

Ne sous estimez pas l'intelligence artificielle si ça se trouve ça va devenir un outil vraiment puissant dans le futur.

C'est déjà capable de faire des choses impressionnantes aujourd'hui et ça va probablement s'améliorer très rapidement.

[Fagus]

c'est facile a dire quand on peut se permettre d'aller voir un médecin.
dans beaucoup de pays c'est payant et au dessus de ces moyens, c'est pas avec des salaires faibles qu'on peut se payer les services d'un thérapeute.
chatgpt répond à un besoin, je l'avais déja dit, a terme, chatgpt va remplacer les médecins et les avocats car la majeur partie de la population n'a pas les moyens et aujourd'hui elle ne se fait pas soigner alors demander conseil a chatgpt pour soigner son cancer ne peut pas etre pire que... de ne rien faire.
Au moins chatgpt peut te donner la recette de la chimio et comment de l'administrer, c'est mieux que de ne rien faire dans l'absolue.

Euh non, c'est peut être pire !
La recette d'un traitement, c'est une toute petite partie de la médecine, il y a des livres de recettes assez bon marché en vente depuis toujours , qu'on appelle des manuels de thérapeutique. C'est un peu léger pour faire un médecin.
Pour commencer par le grand vers le petit , déjà il faut un système social. Dans les pays pauvres (genre ex bloc URSS), ils ont les médicaments et les consultations, mais avec des ruptures d'approvisionnement et de suivi à cause de la chute du système.
Résultat les gens sont traités, mais mal suivi, ce qui , par exemple a créé les souches de tuberculose résistantes à tous les traitements, qui nous ramènent au 19e siècles en possibilités thérapeutiques. Il y a le même problème dans tous les états faibles.


Ensuite, la chimio, c'est une fois qu'on a un diagnostic. Un médecin qui a suspecté le diagnostic à l'examen, prescrit des examens faits par d'autres médecins et de biologistes...
Ensuite il faut payer la chimio, tout le matériel stérile...tous les examens liés aux effets secondaires, les examens pour tester l'efficacité, les infirmières, déceler les rechutes et décider de la nouvelle chimio etc.

ChatGPT ne fait aucune de ces étapes et n'est pas certifié même pour la recette. Les chimio sont des produits mortellement toxiques à adapter finement et surveiller comme.le lait sur le feu.
A la limite il peu faire de la fausse empathie genre "ne vous insultes pas trop, aux USA vos chances de survie sont de 70% avec les soins maximaux, 35 sans assurance, c'est normal si vous vous sentez un peu parano"

[calvaire]

Ensuite, la chimio, c'est une fois qu'on a un diagnostic. Un médecin qui a suspecté le diagnostic à l'examen, prescrit des examens faits par d'autres médecins et de biologistes...
Ensuite il faut payer la chimio, tout le matériel stérile...tous les examens liés aux effets secondaires, les examens pour tester l'efficacité, les infirmières, déceler les rechutes et décider de la nouvelle chimio etc.

ChatGPT ne fait aucune de ces étapes et n'est pas certifié même pour la recette. Les chimio sont des produits mortellement toxiques à adapter finement et surveiller comme.le lait sur le feu.
A la limite il peu faire de la fausse empathie genre "ne vous insultes pas trop, aux USA vos chances de survie sont de 70% avec les soins maximaux, 35 sans assurance, c'est normal si vous vous sentez un peu parano"

Tout ce que tu dis la ça coute des milliers de $ aux USA.
Pour un pauvre y'a 2 choix désormais: il ne fait rien et crève
Il tente de survivre par ces propres moyens en se diagnostiquant lui même et en se soignant lui même.


Même en france, pendant le covid on a transformé des masques de plongé décathlon et des Raspberry en machine pour respirer.
Comme quoi même un pays comme le notre le système D est utilisé. Je serais pas surpris que des médecins/infirmière pratique le système D tous les jours tellement les budgets sont faible.
c'est du vécu quand j'étais élève le système D est déjà très souvent pratiqué à l'école publique en France faute de tune.

Tu parles d'un pays riches avec des gens riches ou les soins sont gratuit et sans problème de logistique, avoir du matériel certifié et stérile tu trouve ça qu'en occident quand tout va bien car ça coute la blinde.
Ailleurs on utilise de l'alcool et un micro onde trouvé à la décharge pour stérilisé du matos d'occasion ou bricoler à la main avec un Raspberry et du scotch.

Ce qu'il faut comprendre c'est que les inégalité sont devenue extrême avec des très riches d'un coté et des très pauvres de l’autre ne pouvant même plus se nourrir (que ce soit en France ou au USA)
Donc les frais de santé et d'avocat c'est impossible aujourd'hui à payé, du moins au USA.
A défaut de créer un système social Chatgpt va combler ce vide et donner aux pauvres l'acces à l'éducation à la santé et à la justice pour pas cher.

Je dis pas que c'est bien ou mal juste que c'est inévitable car t'a (et sa ces beaucoup beaucoup accentuer pendant la covid) 1% qui se gave de milliards et laisses aux autres des miettes incapable de subvenir a des besoins primaires.
Je voudrais un système social ou chacun pourrait se soigner, avoir une éducation de qualité et manger à sa faim sans aucun problème. Mais ce n'est pas le cas quand tu quitte l'occident et c'est de moins en moins le cas en occident.
En novlangue on appelle cela "libéré les énergies".
En France l'école publique régresse chaque année (a l'inverse des écoles élitistes la ou vont les enfants du ministre de l’éducation national par exemple ou la pas de soucis), c'est de plus en plus compliquer d'avoir accès aux soins, et beaucoup ne se chauffe plus et ne mange plus à la pause de midi car pas assez d'argent.