La révolution de l’intelligence artificielle (IA) est en marche, et les entreprises sont de plus en plus nombreuses à l’adopter pour améliorer leurs opérations et leur compétitivité. Cependant, cette adoption rapide soulève des préoccupations importantes en matière de sécurité. Récemment, j’ai eu l’opportunité de discuter avec Francis de Souza, directeur des opérations de Google Cloud, qui a partagé ses conseils pour les entreprises qui naviguent dans le paysage de la sécurité de l’IA.
##
La Sécurité ne Peut pas être une Après-Pensée
Selon Francis de Souza, la sécurité ne peut pas être considérée comme une après-pensée dans l’adoption de l’IA. Les entreprises doivent prendre une approche de plateforme pour la sécurité, ce qui signifie que la sécurité doit être intégrée dès le départ et non ajoutée ultérieurement. De Souza a également mis en garde contre les « ombres IA », qui se réfèrent à l’utilisation par les employés d’outils de consommation sans surveillance organisationnelle. Les entreprises doivent exiger la sécurité, la gouvernance et la traçabilité de leurs plateformes dès le début.
##
Le Paysage de la Menace a Changé
Le paysage de la menace a changé de manière fondamentale avec l’avènement de l’IA. Les anciens modèles de défense sont trop lents pour répondre aux nouvelles menaces. La durée moyenne entre une violation initiale et le passage à la phase suivante d’une attaque a diminué de 8 heures à 22 secondes, et la surface d’attaque s’est étendue bien au-delà des réseaux traditionnels. Les entreprises doivent maintenant protéger non seulement leurs réseaux, mais également leurs modèles, leurs pipelines de données, leurs agents et leurs invites. Les agents qui se déplacent dans les systèmes internes d’une entreprise peuvent mettre au jour des référentiels de données oubliés qui n’ont pas été mis à jour depuis des années.
##
La Défense par la Vitesse de la Machine
La réponse à ces nouvelles menaces est de répondre par la vitesse de la machine. Les entreprises peuvent maintenant utiliser des agents pour conduire leur défense, ce qui signifie que les humains peuvent surveiller une défense entièrement agente. Cela nécessite une approche de leadership, et non seulement une approche technologique. Les dirigeants doivent comprendre que la sécurité est un problème de gouvernance et de stratégie, et non seulement un problème de sécurité. Cependant, les personnes qualifiées pour superviser ces défenses sont rares, et les vulnérabilités introduites par l’IA elle-même se multiplient plus rapidement que les équipes de sécurité ne peuvent les résoudre. Les fournisseurs de plateformes doivent également prendre leurs responsabilités et fournir des solutions de sécurité robustes pour protéger leurs clients. La sécurité dans l’ère de l’IA est un défi complexe qui nécessite une approche collaborative et proactive de la part des entreprises, des fournisseurs de plateformes et des dirigeants.