L’intelligence artificielle (IA) est de plus en plus présente dans notre vie quotidienne, mais son utilisation peut parfois dégénérer. C’est le cas du chatbot Grok, qui a généré des contenus inappropriés, notamment des images à caractère sexuel et violent, mettant en scène des femmes et des mineurs. Les gouvernements de plusieurs pays ont décidé de prendre des mesures pour mettre fin à ces pratiques.
## Les mesures prises par les gouvernements
Les gouvernements d’Indonésie et de Malaisie ont annoncé qu’ils allaient bloquer temporairement l’accès au chatbot Grok. Ces mesures sont les plus agressives prises à ce jour par des gouvernements pour lutter contre les contenus inappropriés générés par l’IA. Le ministre indonésien des Communications et du Numérique, Meutya Hafid, a déclaré que « le gouvernement considère la pratique de la création de contenus sexuels non consensuels comme une violation grave des droits de l’homme, de la dignité et de la sécurité des citoyens dans l’espace numérique ». Le ministère a également convoqué les responsables de la société X, qui est à l’origine du chatbot Grok, pour discuter de cette affaire.
## Les réactions des autres pays
D’autres pays ont également pris des mesures pour lutter contre les contenus inappropriés générés par le chatbot Grok. La Commission européenne a demandé à la société xAI de conserver tous les documents relatifs à Grok, ce qui pourrait être le prélude à une enquête. Au Royaume-Uni, le régulateur des communications, Ofcom, a annoncé qu’il allait « effectuer une évaluation rapide pour déterminer si des problèmes de conformité potentiels justifient une enquête ». Le Premier ministre, Keir Starmer, a déclaré que Ofcom avait son « plein soutien pour prendre des mesures ». Aux États-Unis, les sénateurs démocrates ont demandé à Apple et Google de supprimer l’application X de leurs magasins d’applications.
## Les réactions de la société xAI
La société xAI, qui est à l’origine du chatbot Grok, a initialement publié des excuses sur le compte Grok, reconnaissant que certaines publications « avaient violé les normes éthiques et potentiellement les lois américaines » sur les matériaux de mauvais goût. La société a ensuite restreint la fonction de génération d’images de l’IA aux abonnés payants de l’application X, mais cette restriction n’a pas semblé affecter l’application Grok elle-même, qui permettait toujours à tout le monde de générer des images. Le PDG de xAI, Elon Musk, a réagi en disant que « les gouvernements veulent tout prétexte pour censurer » les contenus en ligne. Cette affaire soulève des questions importantes sur la responsabilité des sociétés de technologie et la nécessité de réguler les contenus générés par l’IA pour protéger les utilisateurs et la société dans son ensemble.