L’intelligence artificielle (IA) est de plus en plus présente dans notre vie quotidienne, notamment parmi les adolescents. Cependant, les développeurs d’applications doivent faire face à des défis importants pour garantir la sécurité de ces jeunes utilisateurs. Pour répondre à ces préoccupations, OpenAI a récemment annoncé le lancement d’un ensemble de directives pour aider les développeurs à créer des applications plus sûres pour les adolescents.
## Les défis de la sécurité des applications pour les adolescents
Les développeurs d’applications doivent souvent naviguer dans un environnement complexe pour garantir la sécurité de leurs utilisateurs, en particulier les adolescents. Les contenus inappropriés, tels que la violence graphique, les contenus sexuels, les idéaux corporels néfastes et les comportements dangereux, peuvent avoir des effets négatifs sur les jeunes utilisateurs. De plus, les défis liés à la sécurité des applications peuvent varier en fonction de la plateforme, de l’âge des utilisateurs et des types de contenus proposés. Pour relever ces défis, les développeurs doivent disposer d’outils et de ressources appropriés pour créer des applications sûres et responsables.
## Les directives d’OpenAI pour la sécurité des applications
OpenAI a travaillé avec des organisations spécialisées dans la sécurité des applications, telles que Common Sense Media et everyone.ai, pour élaborer un ensemble de directives pour la sécurité des applications destinées aux adolescents. Ces directives sont conçues sous forme de prompts, ce qui les rend facilement compatibles avec d’autres modèles d’IA, y compris le modèle de sécurité open-source de OpenAI, appelé gpt-oss-safeguard. Les prompts abordent des sujets tels que la violence graphique, les contenus sexuels, les idéaux corporels néfastes, les comportements dangereux et les biens et services réservés aux adultes. Selon Robbie Torney, responsable des évaluations numériques chez Common Sense Media, « ces directives basées sur des prompts aident à établir un plancher de sécurité significatif dans l’écosystème, et comme elles sont publiées en open source, elles peuvent être adaptées et améliorées au fil du temps ».
## Les avantages des directives d’OpenAI pour les développeurs
Les directives d’OpenAI pour la sécurité des applications offrent plusieurs avantages aux développeurs, notamment la possibilité de créer des applications plus sûres pour les adolescents sans avoir à repartir de zéro. Les développeurs peuvent utiliser ces directives pour renforcer leurs applications existantes ou pour créer de nouvelles applications qui répondent aux normes de sécurité les plus élevées. De plus, les directives d’OpenAI sont conçues pour être flexibles et adaptables, ce qui permet aux développeurs de les personnaliser en fonction de leurs besoins spécifiques. Enfin, les directives d’OpenAI contribuent à établir un standard de sécurité pour les applications destinées aux adolescents, ce qui peut aider à protéger les jeunes utilisateurs contre les contenus inappropriés et les comportements dangereux.