L’intelligence artificielle (IA) est devenue un enjeu majeur dans le domaine de la sécurité nationale, en particulier avec l’émergence de modèles d’IA ouverts qui peuvent être utilisés par différents acteurs, y compris les gouvernements. Le fondateur et PDG d’Anthropic, Dario Amodei, a récemment pris position sur cette question, affirmant que son entreprise ne soutient pas les efforts visant à interdire les modèles d’IA ouverts. Mais qu’est-ce que ces modèles d’IA ouverts, et pourquoi sont-ils considérés comme un enjeu de sécurité nationale ?
Les modèles d’IA ouverts : un risque pour la sécurité nationale ?
Les modèles d’IA ouverts sont des modèles qui sont accessibles à tous et peuvent être utilisés sans restriction. Cela signifie que n’importe qui peut les télécharger et les utiliser, y compris les gouvernements et les entreprises. Cependant, cela pose également des risques pour la sécurité nationale, car ces modèles peuvent être utilisés pour des fins malveillantes, telles que la création d’armes biologiques ou la repression de la population. Dario Amodei a affirmé que les modèles d’IA ouverts qui ne présentent pas de dangers sont un bien public, car ils ne coûtent rien hormis le coût de calcul nécessaire pour les exécuter, et qu’ils fournissent une valeur aux entreprises, aux développeurs et aux chercheurs.
Les préoccupations d’Anthropic et les propositions pour réguler les modèles d’IA ouverts
Dario Amodei a exprimé ses préoccupations concernant les modèles d’IA ouverts, affirmant qu’ils peuvent être utilisés par les gouvernements autoritaires pour acquérir une supériorité militaire permanente ou pour réprimer leur population. Il a également souligné que les modèles d’IA ouverts peuvent être utilisés pour des attaques biologiques, et que les gardes-fous pour les empêcher sont difficiles à mettre en place. Pour réguler les modèles d’IA ouverts, Dario Amodei propose de restreindre l’accès aux puces puissantes pour les gouvernements autoritaires, de lutter contre la distillation (une méthode qui consiste à bombarder un modèle d’IA avec des requêtes pour en apprendre davantage sur son fonctionnement) et de créer une organisation de tests de sécurité pour les modèles d’IA. Il a également soutenu les efforts visant à créer une organisation de tests de sécurité pour les modèles d’IA, qui serait globale et à laquelle tous les pays, y compris la Chine, devraient adhérer.
Les implications pour la communauté de l’IA et les gouvernements
Le débat sur les modèles d’IA ouverts a des implications importantes pour la communauté de l’IA et les gouvernements. Les entreprises et les gouvernements doivent prendre en compte les risques et les avantages des modèles d’IA ouverts et prendre des mesures pour réguler leur utilisation. Les organisations de tests de sécurité pour les modèles d’IA pourraient jouer un rôle clé dans la prévention des attaques biologiques et des autres utilisations malveillantes des modèles d’IA ouverts. En fin de compte, il est essentiel que les gouvernements et les entreprises travaillent ensemble pour réguler les modèles d’IA ouverts et pour assurer que leur utilisation soit sécurisée et responsable. Les conséquences d’un manque de régulation pourraient être graves, et il est donc important que nous prenions des mesures pour prévenir les abus des modèles d’IA ouverts.