Des groupes de hacker soutenus par des gouvernements étrangers ont utilisé les outils d’intelligence artificielle générative (GAI) d’OpenAI, une entreprise soutenue par Microsoft, pour améliorer leurs compétences et tromper leurs cibles, selon un rapport publié mercredi.
Microsoft et OpenAI affirment que cette recherche détaille pour la première fois comment des hackers liés à la Chine, la Russie, la Corée du Nord et l’Iran se servent du GAI. Les entreprises disent que les acteurs étatiques utilisent le GAI pour déboguer du code, rechercher des informations open source pour étudier leurs cibles, développer des techniques d’ingénierie sociale, rédiger des emails de phishing et traduire du texte.
OpenAI, qui alimente les produits GAI de Microsoft comme Copilot, dit avoir coupé l’accès des groupes à ses systèmes GAI après avoir découvert qu’ils utilisaient ses outils. L’un des groupes en question est le célèbre groupe russe Forest Blizzard (mieux connu sous le nom de Fancy Bear ou APT 12). Les hackers ont utilisé les outils d’OpenAI “principalement pour la recherche open source sur les protocoles de communication par satellite et la technologie d’imagerie radar, ainsi que pour le support avec les tâches de script”, selon l’entreprise.
Dans le cadre de ses efforts de cybersécurité, Microsoft dit suivre plus de 300 groupes de hacker, dont 160 acteurs étatiques. Il a partagé ses connaissances avec OpenAI pour aider à détecter les hackers et fermer leurs comptes. OpenAI dit investir dans des ressources pour identifier et perturber les activités des acteurs malveillants sur ses plateformes. Son personnel utilise plusieurs méthodes pour examiner l’utilisation de ses systèmes par les hackers, comme utiliser ses propres modèles pour suivre des pistes, analyser comment ils interagissent avec les outils d’OpenAI et déterminer leurs objectifs généraux. Une fois qu’il détecte ces utilisateurs illicites, OpenAI dit perturber leur utilisation de la plateforme en fermant leurs comptes, en mettant fin aux services ou en réduisant leur accès aux ressources.
Découvrez d’autres actualités de l’IA sur EspritIA.fr