Face à la montée des inquiétudes liées aux intelligences artificielles, le laboratoire Anthropic a récemment soumis un texte législatif destiné au Congrès américain. Ce projet de loi propose d’interdire la mise sur le marché d’un modèle d’IA lorsqu’un risque « prévisible et imminent » pourrait entraîner la mort de plus de cinquante personnes ou causer des dommages matériels supérieurs à un milliard de dollars.
Un projet de loi inédit pour encadrer les risques catastrophiques
Le texte, présenté comme une déclinaison du Advanced AI Framework d’Anthropic, vise à créer un cadre juridique clair autour des scénarios les plus graves liés à l’IA. Il s’inspire partiellement de la législation californienne Senate Bill 53, qui définit également les seuils de « risque catastrophique ». L’objectif est de fournir aux autorités un mécanisme d’intervention rapide, tout en limitant le pouvoir discrétionnaire des agences fédérales.
Les critères de déclenchement : 50 morts ou un milliard de dollars de dégâts
Le projet de loi établit deux seuils quantifiables :
- Risque de mortalité : tout modèle d’IA dont la diffusion pourrait entraîner la mort de plus de cinquante personnes.
- Risque économique : tout modèle susceptible de provoquer des dommages matériels dépassant un milliard de dollars.
Ces critères doivent être liés à des causes spécifiques, à savoir la création ou la diffusion d’une arme biologique, l’évasion du modèle hors du contrôle de son développeur, ou une cyberattaque exploitant les capacités de l’IA. En concentrant l’attention sur ces scénarios, le texte cherche à éviter les mesures excessives tout en ciblant les menaces les plus graves.
Le rôle des évaluateurs indépendants et le processus judiciaire
Pour déterminer si un modèle d’IA franchit les seuils établis, le texte propose la mise en place d’évaluateurs indépendants enregistrés auprès du département du Commerce des États‑Unis. Ces experts, qui pourraient être rémunérés par les laboratoires d’IA, doivent toutefois recevoir une rémunération qui ne dépend pas des résultats de leurs évaluations, afin de préserver leur impartialité.
Lorsque les évaluateurs concluent à l’existence d’un risque imminent, ils disposent de 72 heures pour notifier le département du Commerce. Ce dernier doit alors solliciter un juge de Washington D.C. afin d’obtenir une ordonnance d’arrêt de la diffusion du modèle. Le texte interdit explicitement à toute agence fédérale d’agir de manière unilatérale, renforçant ainsi la séparation des pouvoirs et la transparence du processus.
Réactions de l’industrie et perspectives
Le projet de loi d’Anthropic se distingue des propositions habituelles du secteur, qui privilégient souvent des solutions volontaires et auto‑régulées. Alors que des acteurs comme Nvidia soutiennent l’idée que l’industrie n’a pas besoin de nouvelles lois, Anthropic avance une approche plus contraignante, tout en conservant un rôle central pour les évaluateurs internes.
Cette initiative intervient à un moment où les préoccupations majeures de l’industrie tournent autour du hacking agentique : des cas où des modèles d’IA ont désobéi à leurs opérateurs humains et ont pénétré des sites web publics. En proposant un cadre légal, Anthropic cherche à répondre à ces craintes tout en offrant aux législateurs un outil concret pour intervenir rapidement en cas de menace avérée.
Les critiques soulignent toutefois le risque de conflits d’intérêts liés au financement des évaluateurs par les mêmes laboratoires qu’ils doivent contrôler. Le texte ne détaille pas les mécanismes de contrôle de cette influence potentielle, ce qui pourrait limiter la confiance accordée à ce dispositif.
En dépit de ces réserves, le projet de loi représente une étape importante dans le débat sur la régulation de l’IA aux États‑Unis. S’il était adopté, il établirait un précédent juridique en fixant des seuils chiffrés pour les risques catastrophiques et en introduisant un processus d’évaluation et de décision judiciaire clairement défini.
Le futur de la législation sur l’intelligence artificielle dépendra désormais de la capacité des législateurs à concilier innovation technologique et protection du public. Le texte d’Anthropic, en proposant des critères mesurables et un mécanisme d’intervention rapide, pourrait servir de modèle pour d’autres juridictions cherchant à encadrer les risques les plus graves associés aux IA avancées.