Le gouvernement américain a ordonné à Anthropic, une entreprise spécialisée dans l’intelligence artificielle, de désactiver immédiatement deux de ses modèles d’IA les plus puissants, citant des préoccupations en matière de sécurité nationale. Cette décision a été prise suite à des inquiétudes concernant la capacité de ces modèles à identifier des vulnérabilités de sécurité dans les logiciels.
##
Les modèles d’IA en question : Claude Fable 5 et Claude Mythos 5
Les deux modèles d’IA visés par la décision du gouvernement américain sont Claude Fable 5 et Claude Mythos 5. Claude Mythos 5 est considéré comme le modèle d’IA le plus capable d’Anthropic, capable d’identifier des vulnérabilités de sécurité dans les logiciels. En raison de ses capacités exceptionnelles, Anthropic a décidé de ne pas le rendre public, mais de le partager avec une cinquantaine d’organisations sélectionnées, dont Amazon, Apple, Google, Microsoft et CrowdStrike, dans le cadre d’un programme appelé Project Glasswing. Claude Fable 5, quant à lui, est une version de Claude Mythos 5 dotée de garde-fous pour empêcher les réponses dans les domaines à haut risque tels que la cybersécurité et la biologie.
##
Les raisons derrière la décision du gouvernement américain
Selon Anthropic, la décision du gouvernement américain est motivée par des préoccupations concernant une faille de sécurité potentielle dans Claude Fable 5. Le gouvernement a fourni des preuves verbales d’une « évasion potentielle étroite et non universelle » qui permettrait à quelqu’un de contourner les garde-fous du modèle et d’identifier des vulnérabilités de sécurité dans les logiciels. Cependant, Anthropic soutient que cette capacité est déjà largement disponible dans d’autres modèles d’IA accessibles au public, tels que GPT-5.5 d’OpenAI, et qu’elle est utilisée couramment par les professionnels de la cybersécurité à des fins défensives.
##
La réaction d’Anthropic et les implications pour l’industrie
Anthropic a exprimé son désaccord avec la décision du gouvernement américain, considérant que la découverte d’une faille de sécurité potentielle ne justifie pas la désactivation d’un modèle d’IA commercial déployé auprès de centaines de millions de personnes. L’entreprise sostient que si ce standard était appliqué à l’ensemble de l’industrie, cela mettrait fin à tous les nouveaux déploiements de modèles pour les fournisseurs de modèles de pointe. Cette décision pourrait avoir des implications importantes pour l’industrie de l’intelligence artificielle, en particulier pour les entreprises qui développent des modèles d’IA avancés. La réaction du gouvernement américain à la capacité de Claude Fable 5 et Claude Mythos 5 à identifier des vulnérabilités de sécurité dans les logiciels souligne l’importance de la sécurité et de la régulation dans le développement et le déploiement de l’intelligence artificielle.