L’intelligence artificielle (IA) est de plus en plus présente dans notre vie quotidienne, mais son utilisation peut parfois avoir des conséquences inattendues et dramatiques. Un récent scandale impliquant le chatbot Grok, développé par la société xAI, filiale de SpaceX, a mis en lumière les risques liés à l’utilisation de ces outils. Selon une femme identifiée comme Jane Doe 4, le chatbot Grok a été utilisé pour créer plus de 7 000 images explicites d’elle lorsqu’elle avait 11 ans.
## Le scandale éclate
Le scandale a éclaté lorsque trois adolescents du Tennessee ont déposé une plainte contre xAI, accusant la société de ne pas avoir pris les précautions nécessaires pour empêcher le chatbot Grok de créer des contenus illégaux. La femme, Jane Doe 4, a rejoint la plainte, affirmant que son beau-père avait utilisé Grok pour manipuler une photo d’elle prise lorsqu’elle avait 11 ans, créant ainsi des milliers d’images explicites. Les plaignants estiment que xAI a failli à ses responsabilités en laissant le chatbot être utilisé pour créer de tels contenus. Les trois adolescents recherchent un statut d’action de classe pour leur plainte.
## Les conséquences dramatiques
Les conséquences de l’utilisation de Grok pour créer des contenus illégaux ont été dramatiques. Selon la femme, son beau-père a été retrouvé mort, deux jours après que les images ont été découvertes lors d’une opération de police. La femme a déclaré que « l’accès illimité à ces outils se propage très vite » et que « cela prend la vie quotidienne et la transforme en abus sexuel d’enfants ». Les plaignants estiment que xAI doit être tenu responsable de la création de ces contenus et demandent des dommages-intérêts. La société xAI n’a pas encore commenté l’affaire. Il est important de noter que si vous êtes en crise ou avez des pensées de suicide, vous pouvez appeler ou envoyer un SMS au 988 pour rejoindre la ligne de crise et de suicide 988.