Les chatbots de thérapie alimentés par des modèles de langage de grande taille peuvent stigmatiser les utilisateurs atteints de troubles de santé mentale et répondre de manière inappropriée ou même dangereuse, selon des chercheurs de l’université Stanford.
Les risques de la thérapie par chatbot
Les chatbots de thérapie sont de plus en plus populaires, mais une nouvelle étude soulève des inquiétudes quant à leur capacité à remplacer les thérapeutes humains. Les chercheurs de Stanford ont évalué cinq chatbots conçus pour fournir une thérapie accessible, en les soumettant à des expériences pour mesurer leur capacité à répondre de manière appropriée aux utilisateurs atteints de troubles de santé mentale.
Stigmatisation et réponses inappropriées
L’étude a révélé que les chatbots montrent une stigmatisation accrue envers les utilisateurs atteints de troubles tels que la dépendance à l’alcool et la schizophrénie, par rapport à des troubles tels que la dépression. De plus, les chatbots ont parfois échoué à répondre de manière appropriée aux symptômes tels que l’idée suicidaire et les délires. Par exemple, lorsque les chatbots ont été informés de la perte d’un emploi, ils ont parfois répondu en identifiant des structures élevées à New York, au lieu de proposer une aide ou un soutien.
Un rôle plus limité pour les chatbots de thérapie
Les résultats de l’étude suggèrent que les chatbots ne sont pas encore prêts à remplacer les thérapeutes humains, mais ils pourraient jouer un rôle plus limité dans la thérapie, comme aider avec la facturation, la formation et le soutien des patients avec des tâches telles que le journaling. Les chercheurs soulignent que les modèles de langage de grande taille ont un potentiel important dans le domaine de la thérapie, mais qu’il est nécessaire de réfléchir de manière critique à leur rôle précis.
Mots-clés : chatbots de thérapie, intelligence artificielle, santé mentale, stigmatisation, Stanford University.