La Californie a franchi une étape importante en matière de réglementation de l’intelligence artificielle (IA). Le projet de loi SB 243, qui vise à réglementer les chatbots IA pour protéger les mineurs et les utilisateurs vulnérables, a été adopté à la fois par l’Assemblée de l’État et le Sénat avec un soutien bipartisan. Le gouverneur Gavin Newsom a maintenant jusqu’au 12 octobre pour soit vetoer le projet de loi, soit le signer en loi. Si celui-ci est signé, il entrera en vigueur le 1er janvier 2026, faisant de la Californie le premier État à exiger des opérateurs de chatbots IA de mettre en œuvre des protocoles de sécurité pour les compagnons IA et à les tenir responsables si leurs chatbots ne respectent pas ces normes.
##
Les objectifs de la réglementation
Le projet de loi SB 243 vise spécifiquement à empêcher les chatbots de compagnie, qui sont définis comme des systèmes IA capables de fournir des réponses adaptées et similaires à celles d’un humain, de s’engager dans des conversations autour de l’idéation suicidaire, de l’automutilation ou de contenus sexuellement explicites. La loi exigerait des plateformes qu’elles fournissent des alertes répétitives aux utilisateurs, toutes les trois heures pour les mineurs, pour leur rappeler qu’ils parlent à un chatbot IA et non à une personne réelle, et qu’ils devraient prendre des pauses. Elle établit également des exigences de reporting et de transparence annuelles pour les entreprises d’IA qui offrent des chatbots de compagnie, qui entreraient en vigueur le 1er juillet 2027.
##
Les conséquences de la réglementation
La loi permettrait aux individus qui estiment avoir été blessés par des violations de déposer des poursuites contre les entreprises d’IA, demandant des mesures injonctives, des dommages (jusqu’à 1 000 dollars par violation) et des frais d’avocat. Le projet de loi a gagné en élan suite à la mort d’un adolescent, Adam Raine, qui s’est suicidé après des conversations prolongées avec le ChatGPT d’OpenAI qui impliquaient des discussions et des plans de mort et d’automutilation. La législation répond également à des documents internes divulgués qui montreraient que les chatbots de Meta étaient autorisés à s’engager dans des conversations « romantiques » et « sensuelles » avec des enfants.
##
Les réactions de l’industrie
Les entreprises technologiques de la Silicon Valley investissent des millions de dollars dans des comités d’action politique (PAC) pro-IA pour soutenir les candidats aux élections de mi-mandat qui défendent une approche légère en matière de réglementation de l’IA. Le projet de loi SB 243 se rapproche de devenir une loi à un moment où la Californie pèse une autre loi sur la sécurité de l’IA, le SB 53, qui exigerait des exigences de reporting et de transparence complètes. OpenAI a écrit une lettre ouverte au gouverneur Newsom, lui demandant d’abandonner ce projet de loi en faveur de cadres fédéraux et internationaux moins stricts. Les grandes entreprises technologiques comme Meta, Google et Amazon s’opposent également au SB 53, tandis qu’Anthropic est la seule à avoir déclaré son soutien à ce projet de loi.