Google DeepMind a annoncé mercredi la création du DeepMind Institute, une initiative visant à enrichir le débat mondial autour de l’intelligence artificielle générale (AGI). En réunissant des chercheurs de DeepMind, des cadres de Google et des experts externes, l’institut se donne pour mission de mettre en lumière des points de vue divergents et de proposer des pistes concrètes pour gérer les risques associés à l’AGI.
Un institut dédié à la réflexion sur l’AGI
Le DeepMind Institute s’appuie sur un comité de direction composé de Shane Legg, co‑fondateur de DeepMind, de James Manyika, cadre senior de Google, et de Demis Hassabis, président de Google DeepMind. Shane Legg occupe également le poste de rédacteur en chef, garantissant la cohérence éditoriale des publications.
L’objectif affiché est de faire émerger des perspectives contrastées entre les équipes internes de Google, les chercheurs de DeepMind et la communauté scientifique internationale. « Ils ne seront pas toujours d’accord, et leurs positions évolueront à mesure que de nouvelles données apparaîtront », indique le communiqué officiel.
Les premiers essais : enjeux économiques, transparence et gouvernance
L’institut a publié une première collection de quatre essais, chacun abordant un aspect clé du futur de l’AGI.
Politiques économiques pour gérer la disruption
Le premier texte explore les mesures que les gouvernements pourraient adopter afin de limiter les perturbations économiques potentielles engendrées par l’émergence de systèmes d’AGI. Il propose notamment des mécanismes de redistribution des gains de productivité et des cadres fiscaux adaptés aux nouvelles formes de valeur générées par l’IA.
Transparence et traçabilité des modèles
Rohin Shah et Anca Dragan, chercheurs en sécurité chez DeepMind, soutiennent que la perte de transparence – la capacité à suivre le raisonnement pas à pas d’un modèle – n’est pas inévitable. Ils soulignent que les architectures de plus en plus complexes rendent le suivi plus difficile, mais que les développeurs et les régulateurs doivent directement aborder ces compromis.
- Limiter la « opaque serial depth » : réduire la profondeur séquentielle d’un modèle sans trace lisible.
- Exiger des démonstrations de monitorabilité même pour les systèmes les moins transparents.
Ces propositions visent à garantir que les modèles restent vérifiables, même lorsqu’ils évoluent vers des structures plus opaques.
Principes pour l’épanouissement humain
Un troisième essai s’attache à définir des principes éthiques visant à assurer que le développement de l’AGI contribue au bien‑être collectif. Il met en avant la nécessité d’intégrer des valeurs humaines dès la phase de conception, afin d’éviter que les systèmes autonomes ne poursuivent des objectifs incompatibles avec les intérêts sociétaux.
Cadre d’évaluation des modèles de pointe
Le dernier texte, rédigé par Demis Hassabis, propose la création d’un organisme de normalisation américain dédié à l’évaluation des modèles d’IA les plus avancés. Selon ce cadre, les développeurs soumettraient volontairement leurs modèles à un examen pré‑déploiement d’une durée maximale de trente jours.
Une fois la crédibilité du processus établie, le passage des tests pourrait devenir obligatoire pour toute mise sur le marché aux États‑Unis. L’organisme commencerait par concevoir les évaluations en collaboration avec les entreprises, avant de développer des tests « held‑out » indépendants, afin d’empêcher les laboratoires d’ajuster leurs modèles en fonction d’évaluations connues.
Hassabis envisage également la possibilité d’intensifier le cadre en cas de besoin, incluant potentiellement un ralentissement coordonné du développement parmi les acteurs majeurs de l’AGI.
Vers une régulation concrète et un débat élargi
Ces essais marquent une évolution du débat sur la sécurité de l’IA, qui passe désormais de déclarations générales à des propositions concrètes de divulgation, de contrôle externe et, le cas échéant, de ralentissement coordonné. Cette dynamique s’est accélérée cette semaine, suite à l’appui de plusieurs leaders du secteur à l’appel de Dario Amodei, PDG d’Anthropic, en faveur d’un « pace » maîtrisé du développement de l’AGI.
En réunissant des perspectives internes et externes, le DeepMind Institute ambitionne de devenir un carrefour d’échanges où les chercheurs, les décideurs politiques et les acteurs industriels pourront confronter leurs idées et élaborer des solutions partagées. Le succès de cette initiative dépendra de la capacité des parties prenantes à accepter des compromis et à mettre en place des mécanismes de gouvernance robustes.
Alors que les modèles d’IA continuent de gagner en puissance, la création d’un tel institut représente une étape majeure pour structurer le dialogue autour de l’AGI et préparer la société aux défis à venir.