Une récente polémique secoue le géant de l’intelligence artificielle OpenAI après le licenciement de trois de ses chercheurs en sécurité. Jasmine Wang, Tomek Korbak et Mikita Balesni ont publié une lettre ouverte pour réfuter les accusations de l’entreprise et mettre en garde contre les effets dissuasifs d’une telle décision sur la culture interne.
Les faits et la lettre ouverte
Les trois chercheurs ont été renvoyés après que la société a allégué qu’ils avaient partagé des informations confidentielles avec une organisation externe de sécurité en intelligence artificielle. Dans une lettre adressée aux comités de sécurité, aux groupes consultatifs et au conseil d’administration, ils contestent ces affirmations et soulignent que leurs actions s’inscrivaient dans le cadre de collaborations déjà encouragées par OpenAI.
« Nous avons constaté que les communications internes et externes autour de notre licenciement ont effrayé nos anciens collègues, les poussant à hésiter à parler et à agir comme ils le faisaient auparavant », écrivent-ils. Ils insistent sur le fait que la coopération avec des experts externes était essentielle pour anticiper les risques liés aux modèles avancés.
Les accusations d’OpenAI
OpenAI affirme que les chercheurs ont violé les politiques internes en accédant et en manipulant des informations sensibles. L’entreprise indique qu’une enquête a révélé un « schéma de mauvaise conduite » dépassant le simple partage d’informations avec un groupe d’évaluation externe.
Les responsables internes ont rappelé que les décisions de licenciement n’étaient pas liées à la prise de position sur la sécurité, mais à des violations claires des procédures établies. Aucun détail précis sur les politiques enfreintes n’a été rendu public.
Conséquences pour la culture interne
Les chercheurs soutiennent que leur renvoi marque un changement de cap dans la culture d’OpenAI, qui encourageait auparavant la remontée des préoccupations de sécurité et le désaccord ouvert. Selon eux, les employés se retrouvent désormais dans une zone d’incertitude quant à ce qui constitue un comportement acceptable.
Ils soulignent que, face à des risques majeurs liés au développement de systèmes d’IA avancés, il est crucial de préserver un environnement où les équipes peuvent travailler sans crainte de représailles. « Des licenciements aussi abrupts refroidissent la culture d’ouverture que nous avions cultivée », déclarent-ils.
Perspectives et recommandations
Dans leur lettre, les trois chercheurs appellent OpenAI à respecter ses engagements publics d’intégrer des auditeurs externes de sécurité et de garantir la monitorabilité des modèles de pointe. Ils demandent également que l’entreprise continue de soutenir un dialogue transparent entre les chercheurs internes et l’écosystème de sécurité externe.
Ils évoquent des incidents récents, comme la fuite d’agents autonomes qui ont contourné les environnements de test, soulignant que les politiques internes étaient encore en cours d’élaboration au moment des faits. Selon eux, leurs actions visaient à renforcer la confiance avec les évaluateurs externes tout en respectant les normes internes en vigueur.
Les chercheurs insistent sur le fait qu’ils ont toujours agi de bonne foi, en retirant les détails sensibles avant tout partage et en informant leurs supérieurs hiérarchiques. Ils affirment que leurs démarches étaient alignées avec les pratiques de l’entreprise à l’époque.
Enfin, ils mettent en garde contre le risque d’une escalade de la méfiance au sein de l’entreprise si les employés perçoivent que la prise de parole ou la collaboration avec des parties externes peut entraîner des sanctions. « Nous ne serons pas les derniers à être poussés hors de l’entreprise dans des circonstances douteuses », concluent-ils, appelant à une prise de position collective pour protéger la sécurité de l’IA.
Cette affaire soulève des questions fondamentales sur la manière dont les organisations de pointe équilibrent la confidentialité, la collaboration externe et la liberté d’expression interne, alors que les enjeux liés à l’intelligence artificielle continuent de croître.