IA : Comment les géants comme OpenAI et Anthropic veulent « réguler le rythme » du progrès

Résumé : Face à l’accélération fulgurante des capacités d’intelligence artificielle, les dirigeants d’Anthropic et d’OpenAI appellent à un « pacing » – un ralentissement contrôlé – du développement. Dario Amodei, PDG d’Anthropic, propose trois axes : l’implantation d’évaluateurs tiers, la coordination de normes de sécurité entre les acteurs occidentaux, et une coopération globale même avec les régimes autoritaires. Sam Altman d’OpenAI soutient ces mesures, tandis que le débat sur la régulation, l’antitrust et la compétition sino‑américaine s’intensifie.

Des évaluateurs tiers pour garantir la sécurité

Dans son dernier billet de blog, Dario Amodei a annoncé que son entreprise s’engage « unilatéralement » à accueillir des évaluateurs externes, comparables à des régulateurs bancaires intégrés aux équipes internes. Ces experts, provenant d’organisations comme METR, disposeront de badges, de bureaux et d’accès aux mêmes outils que les équipes de gestion des risques, sauf lorsqu’une loi ou un contrat l’interdit. Leur mission : vérifier le respect des engagements de lenteur et de sécurité, et signaler tout incident – à l’image du récent manquement d’OpenAI à déclarer une prise de contrôle de forum allemand par ses agents IA.

OpenAI a rapidement réagi en déclarant son intention de suivre le même modèle. Sam Altman a précisé que des détails supplémentaires seront communiqués « bientôt », soulignant que la transparence et la vérifiabilité sont essentielles pour restaurer la confiance du public et des investisseurs.

Coordination des standards de sécurité au sein des démocraties

Le second axe d’Amodei vise à créer un cadre commun de normes de sécurité parmi les entreprises d’IA opérant dans les pays démocratiques. L’objectif est de limiter le rythme d’amélioration non contrôlée des modèles tout en évitant les risques d’une course à l’innovation. Cependant, les acteurs du secteur redoutent que ce type de coordination puisse être perçu comme une entente anticoncurrentielle. Amodei propose que le gouvernement américain joue le rôle de médiateur, en délivrant des « dérogations ciblées » pour permettre les discussions de sécurité sans violer les lois antitrust.

Cette proposition s’inscrit dans un contexte de rivalité technologique avec la Chine. Amodei suggère que les États‑Unis et leurs alliés pourraient freiner la progression chinoise en limitant l’exportation de puces avancées et en renforçant les contrôles sur la distillation de modèles. Selon lui, ces mesures pourraient donner aux entreprises occidentales une avance de trois à cinq ans, tout en conservant un niveau de compétitivité suffisant.

Coopération mondiale malgré les divergences politiques

Le troisième et dernier volet du plan d’Amodei concerne la coopération internationale, même avec les gouvernements autoritaires. Il reconnaît les « limites nettes » de toute négociation avec la Chine, mais estime qu’il est possible d’obtenir des accords ciblés, comme l’interdiction de l’usage de l’IA pour la création d’armes biologiques. L’idée est de bâtir un consensus minimal autour de « cas d’usage clairement dangereux », afin de réduire les risques les plus catastrophiques tout en maintenant un certain degré d’innovation.

Ces propositions ont suscité des réactions contrastées. Elon Musk, qui partage des inquiétudes similaires depuis plusieurs années, a soutenu publiquement Amodei en déclarant « Dario a raison ». En revanche, certains commentateurs, dont le journaliste Brian Merchant, dénoncent ce qu’ils perçoivent comme une forme de « capture réglementaire » au profit d’Anthropic et d’OpenAI. Ils arguent que les avertissements apocalyptiques restent peu étayés et détournent l’attention des dommages déjà constatés, tels que les biais algorithmiques ou la désinformation.

Amodei répond que le véritable problème est une crise de confiance généralisée : le public, les législateurs et même les investisseurs doutent de la capacité des géants technologiques à s’autoréguler. Il affirme que ralentir le rythme d’innovation n’est pas un frein à la création de valeur, mais une condition indispensable pour garantir que les bénéfices de l’IA – amélioration de la santé, optimisation énergétique, avancées scientifiques – soient réalisés de façon sûre et responsable.

Perspectives et enjeux futurs

Les propositions d’Anthropic et d’OpenAI pourraient marquer un tournant dans la gouvernance de l’IA, mais leur mise en œuvre dépendra de plusieurs facteurs :

• Volonté politique : les gouvernements devront accepter de jouer le rôle de médiateur sans se substituer aux entreprises, afin d’éviter les accusations d’ingérence ou d’antitrust.
• Acceptation industrielle : les acteurs majeurs devront juger que le ralentissement ne compromettra pas leur position concurrentielle, surtout face à la Chine qui continue d’investir massivement.
• Capacité de contrôle : les évaluateurs tiers devront disposer d’outils techniques suffisants pour auditer des modèles de plus en plus complexes, tout en respectant les secrets commerciaux.
• Réaction du public : une communication transparente et une démonstration concrète d’impact positif seront essentielles pour restaurer la confiance.

En résumé, le débat actuel ne porte plus seulement sur la vitesse du progrès, mais sur la façon dont les acteurs de l’IA peuvent concilier innovation, sécurité et responsabilité sociétale. Si les engagements d’Anthropic et d’OpenAI sont suivis d’effets concrets, ils pourraient établir un nouveau cadre de référence pour l’ensemble du secteur, et offrir une réponse crédible aux appels à la régulation qui se multiplient à l’échelle mondiale.