L’intelligence artificielle (IA) est de plus en plus présente dans notre vie quotidienne, et les entreprises qui la développent doivent veiller à ce que ces systèmes soient sûrs, fiables et alignés sur les valeurs humaines. C’est dans ce contexte que la nouvelle de la dissolution d’une équipe clé chez OpenAI, l’une des principales entreprises d’IA, a fait l’actualité.
##
Qu’était l’équipe d’alignement d’OpenAI ?
L’équipe d’alignement d’OpenAI était une unité interne chargée de travailler sur l’alignement des systèmes d’IA avec les valeurs humaines. Cette équipe, formée en septembre 2024, était composée de six ou sept personnes et était responsable de développer des méthodologies pour garantir que les systèmes d’IA suivent les intentions humaines dans des scénarios complexes et adverses. L’objectif de cette équipe était de veiller à ce que les systèmes d’IA soient contrôlables, auditable et alignés sur les valeurs humaines.
##
Le nouveau rôle de Josh Achiam, ancien chef de l’équipe d’alignement
Josh Achiam, l’ancien chef de l’équipe d’alignement, a été nommé « chief futurist » d’OpenAI. Dans son nouveau rôle, Achiam sera chargé d’étudier comment le monde va changer en réponse à l’IA et à l’intelligence artificielle générale (IAG). Il collaborera avec Jason Pruet, un physicien du personnel technique d’OpenAI. Achiam a déclaré que son objectif est de soutenir la mission d’OpenAI, qui est de garantir que l’IAG bénéficie à toute l’humanité.
##
Les conséquences de la dissolution de l’équipe d’alignement
La dissolution de l’équipe d’alignement a suscité des questions sur la priorité accordée par OpenAI à la sécurité et à la confiance de ses systèmes d’IA. Un porte-parole d’OpenAI a attribué la dissolution de l’équipe à des réorganisations routinières qui ont lieu dans une entreprise en constante évolution. Cependant, les détails sur la réaffectation des membres de l’équipe d’alignement et sur le rôle d’Achiam en tant que « chief futurist » restent flous. Il est important de noter que cette dissolution intervient après la suppression de l’équipe « superalignment » d’OpenAI en 2024, qui était chargée d’étudier les menaces existentielles à long terme posées par l’IA. Les conséquences de cette dissolution seront probablement suivies de près par les experts et les utilisateurs d’IA.