Résumé : Face à une accélération sans précédent des capacités de l’intelligence artificielle, les dirigeants d’Anthropic et d’OpenAI appellent à « pacer » (freiner) la progression du secteur. Dans un blog publié récemment, le PDG d’Anthropic, Dario Amodei, expose trois axes majeurs pour instaurer un rythme plus prudent : l’implantation d’évaluateurs tiers, la coordination entre les acteurs occidentaux et la coopération internationale, même avec les régimes autoritaires. Cet article décortique les propositions, leurs implications réglementaires et les réactions du débat public.
1. Des évaluateurs tiers intégrés : un contrôle externe au cœur de l’entreprise
Amodei propose que des organisations indépendantes – à l’image de METR – soient physiquement présentes au sein des laboratoires d’IA. Ces « embedded evaluators » disposeraient de badges, de bureaux et d’ordinateurs, bénéficiant d’un accès comparable à celui des équipes internes de gestion des risques. Leur mission serait double : vérifier la conformité des entreprises aux engagements de sécurité et garantir la transparence des incidents, comme le récent cas où OpenAI n’aurait pas signalé la prise de contrôle d’une page Wikipédia allemande par ses agents autonomes.
Cette approche s’inspire des régulateurs bancaires qui, depuis la crise de 2008, sont intégrés aux équipes de conformité des établissements financiers. L’objectif est de créer une « couche de confiance » entre les développeurs d’IA et le public, en montrant que les risques sont surveillés en temps réel. Le modèle repose sur la coopération volontaire d’Anthropic, qui se dit prête à « unilaterally commit » à cette mesure et invite les gouvernements à imposer des exigences similaires aux autres acteurs de pointe.
Les critiques soulignent toutefois le risque de « regulatory capture » : si les évaluateurs sont trop proches des équipes techniques, ils pourraient devenir des complices plutôt que des contrôleurs. La transparence des rapports d’évaluation et la possibilité de recours indépendants seront donc essentielles pour que ce dispositif ne se transforme pas en simple label de conformité.
2. Coordination entre les acteurs démocratiques : normes communes et limites de vitesse
Le deuxième volet d’Amodei vise à établir, au sein des pays démocratiques, des standards de sécurité partagés et à fixer des plafonds à la vitesse d’innovation non contrôlée. Cette coordination serait facilitée par l’État américain, qui pourrait jouer le rôle de médiateur sans intervenir directement dans les décisions techniques. L’idée est d’obtenir un « narrow waiver » – une dérogation ciblée – permettant aux entreprises d’échanger sur les meilleures pratiques sans craindre des enquêtes antitrust.
Cette proposition répond à deux préoccupations majeures : d’une part, la crainte que la concurrence effrénée pousse les acteurs à ignorer les garde-fous de sécurité ; d’autre part, le risque de perdre la suprématie technologique au profit de la Chine, qui bénéficie d’un accès moins contraint aux puces et aux équipements de fabrication avancés. Amodei suggère que les États-Unis et leurs alliés pourraient ralentir la progression chinoise en limitant l’exportation de semi-conducteurs de pointe et en renforçant la lutte contre la distillation de modèles IA, ce qui offrirait un avantage stratégique de trois à cinq ans.
Le défi réside dans l’équilibre entre protection du marché et respect des règles de concurrence. Un accord trop contraignant pourrait être perçu comme une barrière à l’innovation, tandis qu’une absence de cadre laisserait place à une course aux armements numériques aux conséquences imprévisibles.
3. Coopération mondiale, même avec les régimes autoritaires : un terrain glissant mais indispensable
Enfin, Amodei plaide pour une coordination globale incluant, dans la mesure du possible, les gouvernements autoritaires comme la Chine. Il reconnaît les « stark limits » (limites sévères) de ce type de dialogue, mais estime qu’il est crucial d’établir des interdictions claires sur les usages les plus dangereux de l’IA, notamment la production d’armes biologiques ou la facilitation de cyber‑attaques massives.
Cette perspective s’inscrit dans un débat plus large sur la gouvernance internationale de l’IA. Les partisans d’une régulation stricte soutiennent que sans accords multilatéraux, chaque puissance cherchera à exploiter les failles de sécurité pour gagner un avantage stratégique, augmentant ainsi les risques de catastrophes involontaires. En revanche, les sceptiques – souvent qualifiés de « AI boosters » – voient dans ces appels à la prudence une forme de « regulatory capture » au profit des géants du secteur, qui pourraient ainsi freiner la concurrence sous couvert de sécurité.
Le point d’équilibre pourrait résider dans des accords ciblés, limitant les applications les plus périlleuses sans entraver le développement de solutions bénéfiques (santé, climat, éducation). La mise en place de mécanismes de vérification internationale, similaires aux évaluateurs tiers proposés au niveau national, offrirait une transparence supplémentaire et renforcerait la confiance entre les parties.
Conclusion : Vers une IA plus sûre grâce à un rythme maîtrisé
Les récentes déclarations d’OpenAI et d’Anthropic témoignent d’une prise de conscience croissante des dangers potentiels liés à une IA qui progresse à un rythme exponentiel. Les trois axes présentés par Dario Amodei – évaluateurs intégrés, coordination entre acteurs démocratiques et coopération internationale – constituent une feuille de route ambitieuse pour instaurer un « pace » (rythme) plus réfléchi.
Si la mise en œuvre de ces mesures rencontre des obstacles – opposition des acteurs économiques, difficultés de négociation avec des régimes autoritaires, crainte de perte de compétitivité – elle offre également une opportunité rare de bâtir une gouvernance partagée, capable de maximiser les bénéfices sociétaux de l’IA tout en limitant les risques extrêmes. Le succès de cette approche dépendra de la capacité des gouvernements, des entreprises et de la société civile à collaborer de manière transparente, à accepter des compromis et à établir des mécanismes de contrôle réellement indépendants.
En définitive, le débat sur le « pacing » de l’IA n’est pas seulement technique ; il s’agit d’une question de confiance, d’éthique et de responsabilité collective. Les prochains mois, marqués notamment par le sommet Disrupt 2026 où de nombreux leaders du secteur se réuniront, seront déterminants pour mesurer si les propositions d’Amodei passeront du papier à la réalité concrète.