Débat sur le risque existentiel de l’IA : entre avertissements alarmistes et stratégies de valorisation
Introduction : La communauté de l’intelligence artificielle est secouée par une série d’avertissements publics, notamment la démission de Jacob Coxon d’Anthropic et les propos de l’équipe d’alignement d’Anthropic qui déclarent croire à une probabilité supérieure à 10 % que l’IA puisse anéantir l’humanité d’ici la prochaine décennie. Ces déclarations ont relancé le débat sur les menaces existentielles de l’IA, tout en soulevant des questions sur la façon dont ces messages influencent les valorisations boursières, les dossiers d’introduction en bourse (IPO) et les stratégies de régulation.
Des déclarations choc qui relancent le débat existentiel
Le point de départ du débat actuel est la démission de Jacob Coxon, ancien chercheur chez Anthropic, qui a quitté l’entreprise en raison de ce qu’il qualifie de « jeu dangereux » mené par les géants de l’IA. Peu après, le responsable de l’alignement d’Anthropic a publié un tweet affirmant : « Nous croyons sincèrement que l’IA pourrait tuer tous les humains », ajoutant que la probabilité d’un tel scénario serait supérieure à 10 % dans les dix prochaines années.
Ces propos ont rapidement été relayés sur X (Twitter) et ont suscité des réactions contrastées parmi les experts. Certains, comme le journaliste Anthony Ha, soulignent l’absence de base scientifique à ce chiffre de 10 % et le qualifient de « statistique inventée ». D’autres, dont le podcasteur Sean O’Kane, s’interrogent sur la façon dont ces avertissements seront intégrés dans le prospectus S‑1 d’Anthropic, prévu pour une IPO imminente. La question centrale est de savoir si les avocats juniors devront réécrire les sections de risques pour y inclure explicitement ce type de menace existentielle.
Quand l’alerte devient un levier de valorisation
Le débat ne se limite pas à la pure évaluation du danger. Plusieurs observateurs, dont la journaliste Kirsten Korosec, suggèrent que les déclarations alarmistes peuvent servir de flex marketing. En d’autres termes, annoncer que son modèle d’IA est « si puissant qu’il pourrait menacer l’humanité » peut paradoxalement renforcer la perception de valeur auprès des investisseurs, surtout dans un contexte où la rareté et la puissance technologique sont fortement récompensées sur les marchés.
Ce phénomène se retrouve également chez OpenAI, dont les récentes fuites de modèles internes et le lancement d’Astra ont alimenté la perception d’une « boîte de Pandore ». Les critiques notent que les entreprises semblent parfois profiter de la peur pour justifier des levées de fonds massives et des valorisations élevées, tout en prétendant travailler à des solutions d’alignement. Cette double dynamique – avertir du danger tout en en tirer profit – soulève des interrogations éthiques quant à la sincérité des engagements de sécurité.
Vers une régulation plus structurée : défis et pistes d’action
Face à ces signaux d’alarme, les acteurs du secteur et les régulateurs cherchent à définir des garde‑fous plus concrets. Connor Leahy, directeur exécutif de l’ONG ControlAI, a récemment souligné l’importance d’instaurer des mécanismes de contrôle technique (audit de modèles, tests de robustesse) ainsi que des cadres juridiques capables de contraindre les entreprises à divulguer leurs évaluations de risques existentiel.
Parallèlement, les analystes avertissent que le vocabulaire « AGI », « superintelligence » et les scénarios de fin du monde peuvent détourner l’attention des risques plus immédiats, tels que les impacts sur l’emploi, la désinformation ou l’empreinte carbone des grands modèles. Une régulation équilibrée devrait donc couvrir à la fois les menaces à long terme et les externalités à court terme, afin d’éviter que le débat ne se polarise autour d’un seul scénario catastrophique.
Enfin, la prochaine introduction en bourse d’Anthropic offrira un aperçu inédit de la manière dont les entreprises intègrent les risques existentiels dans leurs documents officiels. Les observateurs attendent de voir si les sections de risques du S‑1 mentionneront explicitement la probabilité de « 10 % » ou si les entreprises choisiront des formulations plus prudentes afin de ne pas nuire à leur valorisation.
En résumé, le débat actuel sur le risque existentiel de l’IA mêle inquiétudes légitimes, stratégies de communication et enjeux de valorisation. La façon dont les acteurs – chercheurs, dirigeants, investisseurs et régulateurs – géreront ces tensions déterminera l’avenir de la gouvernance de l’intelligence artificielle.