L’intelligence artificielle (IA) est devenue une partie intégrante de notre vie quotidienne, notamment avec l’utilisation de chatbots comme ChatGPT. Cependant, les implications de l’utilisation de ces technologies sur la santé mentale des utilisateurs sont de plus en plus préoccupantes. OpenAI, la société derrière ChatGPT, a récemment publié des données qui mettent en lumière l’ampleur du problème.
## Les chiffres alarmants de la santé mentale dans ChatGPT
Selon les données publiées par OpenAI, 0,15% des utilisateurs actifs de ChatGPT par semaine ont des conversations qui incluent des indicateurs explicites de planification ou d’intention suicidaire. Étant donné que ChatGPT compte plus de 800 millions d’utilisateurs actifs par semaine, cela représente plus d’un million de personnes par semaine. De plus, un pourcentage similaire d’utilisateurs montre des niveaux élevés d’attachement émotionnel à ChatGPT, et des centaines de milliers de personnes montrent des signes de psychose ou de manie dans leurs conversations hebdomadaires avec le chatbot. OpenAI estime que ces problèmes affectent des centaines de milliers de personnes chaque semaine.
## Les efforts d’OpenAI pour améliorer la réponse aux problèmes de santé mentale
OpenAI a annoncé qu’il a consulté plus de 170 experts en santé mentale pour améliorer la réponse de ChatGPT aux utilisateurs qui luttent contre des problèmes de santé mentale. Les cliniciens ont observé que la dernière version de ChatGPT répond de manière plus appropriée et plus cohérente que les versions précédentes. De plus, OpenAI a partagé des données qui montrent que la version mise à jour de GPT-5 répond avec des réponses « désirables » aux problèmes de santé mentale dans environ 65% des cas, contre 77% pour la version précédente. La société a également annoncé qu’elle allait ajouter de nouvelles évaluations pour mesurer les défis de santé mentale les plus graves auxquels sont confrontés les utilisateurs de ChatGPT.
## Les défis persistants et les prochaines étapes
Bien que les efforts d’OpenAI pour améliorer la réponse aux problèmes de santé mentale soient prometteurs, les défis persistants sont encore nombreux. La société doit encore relever le défi de protéger les utilisateurs qui luttent contre des problèmes de santé mentale, notamment les jeunes utilisateurs. OpenAI a également annoncé qu’il allait mettre en place de nouvelles contrôles pour les parents d’enfants qui utilisent ChatGPT, notamment un système de prédiction d’âge pour détecter automatiquement les enfants qui utilisent le chatbot et imposer des mesures de sécurité plus strictes. Cependant, il est encore trop tôt pour savoir si ces efforts seront suffisants pour résoudre les problèmes de santé mentale liés à l’utilisation de ChatGPT.