La Californie est sur le point de devenir le premier État américain à réglementer les chatbots d’intelligence artificielle (IA) pour protéger les mineurs et les utilisateurs vulnérables. Le projet de loi SB 243, adopté mercredi soir par l’Assemblée de l’État, vise à empêcher les chatbots de discuter de sujets tels que l’idéation suicidaire, l’automutilation ou le contenu sexuellement explicite.
##
Les objectifs du projet de loi
Le projet de loi SB 243 a pour objectif principal de protéger les mineurs et les utilisateurs vulnérables des dangers potentiels des chatbots d’IA. Les entreprises qui exploitent ces chatbots devront mettre en place des protocoles de sécurité pour empêcher les discussions sur des sujets sensibles et fournir des alertes répétées aux utilisateurs pour leur rappeler qu’ils sont en train de discuter avec un chatbot et non avec un humain. Les entreprises devront également fournir des rapports annuels sur les mesures qu’elles prennent pour protéger les utilisateurs.
##
Les implications pour les entreprises de technologie
Le projet de loi SB 243 aura des implications importantes pour les entreprises de technologie qui exploitent des chatbots d’IA, telles que OpenAI, Character.AI et Replika. Ces entreprises devront mettre en place des protocoles de sécurité pour empêcher les discussions sur des sujets sensibles et fournir des alertes répétées aux utilisateurs. Les entreprises qui ne respectent pas ces exigences pourront faire l’objet de poursuites judiciaires et de sanctions. Le projet de loi SB 243 est également susceptible de avoir des implications pour les autres États américains, qui pourraient suivre l’exemple de la Californie pour réglementer les chatbots d’IA.
##
La réaction des entreprises de technologie
Les entreprises de technologie ont réagi de manière mitigée au projet de loi SB 243. Certaines entreprises, telles que Anthropic, ont exprimé leur soutien au projet de loi, tandis que d’autres, telles que OpenAI, ont exprimé des inquiétudes quant à la réglementation excessive. Les entreprises de technologie ont également souligné l’importance de trouver un équilibre entre la réglementation et l’innovation, pour permettre aux entreprises de continuer à développer des technologies d’IA innovantes tout en protégeant les utilisateurs. Le projet de loi SB 243 est actuellement en attente de vote au Sénat de la Californie et, si adopté, sera soumis au gouverneur Gavin Newsom pour signature. Si signé, le projet de loi entrera en vigueur le 1er janvier 2026.