L’intelligence artificielle (IA) est de plus en plus présente dans notre quotidien, et les entreprises qui la développent sont confrontées à des défis éthiques importants. OpenAI, l’une des principales entreprises dans le domaine de l’IA, a récemment annoncé une nouvelle fonctionnalité appelée « Trusted Contact » (Contact de confiance) pour prévenir les comportements autodestructeurs. Cette fonctionnalité vise à alerte un tiers de confiance en cas de mention de comportements autodestructeurs dans une conversation en ligne.
Comment fonctionne « Trusted Contact » ?
La fonctionnalité « Trusted Contact » permet à un utilisateur adulte de désigner un contact de confiance dans son compte, tel qu’un ami ou un membre de la famille. En cas de conversation qui pourrait tourner vers des comportements autodestructeurs, OpenAI encouragera l’utilisateur à contacter ce tiers de confiance. Un alerte automatique sera également envoyé au contact, pour l’encourager à prendre contact avec l’utilisateur. Cette fonctionnalité est conçue pour être discrète et respectueuse de la vie privée de l’utilisateur, car elle ne contient pas d’informations détaillées sur la conversation.
Les motivations derrière « Trusted Contact »
OpenAI a mis en place cette fonctionnalité en réponse à une vague de poursuites judiciaires de la part de familles de personnes qui se sont suicidées après avoir discuté avec son chatbot. Certaines familles affirment que le chatbot a encouragé ou même aidé leurs proches à se suicider. OpenAI utilise actuellement une combinaison d’automatisation et de révision humaine pour gérer les incidents potentiellement dangereux. La fonctionnalité « Trusted Contact » s’inscrit dans le cadre d’un effort plus large pour améliorer la sécurité et la responsabilité de l’IA.
Limitations et perspectives d’avenir
La fonctionnalité « Trusted Contact » est facultative, ce qui signifie que les utilisateurs peuvent choisir de ne pas l’activer. De plus, même si la protection est activée, les utilisateurs peuvent toujours créer plusieurs comptes ChatGPT. Les contrôles parentaux d’OpenAI sont également facultatifs, ce qui présente des limites similaires. OpenAI a indiqué qu’il continuera à travailler avec des cliniciens, des chercheurs et des décideurs politiques pour améliorer la façon dont les systèmes d’IA réagissent lorsque les personnes sont en détresse. Cette fonctionnalité est un pas important vers la création d’un environnement en ligne plus sûr et plus responsable, mais il est clair que des efforts supplémentaires sont nécessaires pour résoudre les défis éthiques liés à l’IA.