L’Inde a récemment ordonné aux plateformes de réseaux sociaux de renforcer la surveillance des deepfakes et des autres contenus générés par l’intelligence artificielle (IA), tout en réduisant considérablement les délais de conformité avec les ordres de retrait de contenu. Cette décision pourrait avoir des implications importantes sur la manière dont les entreprises technologiques modèrent le contenu dans l’un des plus grands et des plus dynamiques marchés d’Internet au monde.
Les nouvelles règles
Les changements, publiés sous forme de modifications aux règles IT de 2021, placent les deepfakes sous un cadre réglementaire formel, exigeant l’étiquetage et la traçabilité des contenus audiovisuels synthétiques, ainsi que la réduction des délais de conformité pour les plateformes. Les plateformes de réseaux sociaux qui permettent aux utilisateurs de télécharger ou de partager du contenu audiovisuel doivent exiger des déclarations sur la génération synthétique du matériel, déployer des outils pour vérifier ces affirmations et s’assurer que les deepfakes soient clairement étiquetés et intégrés avec des données de provenance traçables.
Les implications pour les entreprises technologiques
Les nouvelles règles pourraient avoir des implications significatives pour les entreprises technologiques, notamment les plateformes de réseaux sociaux comme Meta et YouTube, qui ont une présence importante en Inde. Les entreprises devront déployer des outils techniques pour vérifier les déclarations des utilisateurs, identifier et étiqueter les deepfakes, et prévenir la création ou le partage de contenus synthétiques interdits. Les non-conformités, en particulier dans les cas signalés par les autorités ou les utilisateurs, pourraient exposer les entreprises à une responsabilité juridique accrue en compromettant leurs protections de havres sûrs en vertu de la loi indienne.
Les préoccupations concernant la censure et la liberté d’expression
Les nouvelles règles ont également suscité des préoccupations concernant la censure et la liberté d’expression. Les délais de retrait de contenu très courts, tels que les fenêtres de deux à trois heures, pourraient accélérer la censure en laissant peu de place pour un examen humain et en poussant les plateformes vers une suppression automatisée. Les groupes de défense de la liberté d’expression, tels que l’Internet Freedom Foundation, ont averti que les changements pourraient miner les protections de la liberté d’expression et le processus dû. Les entreprises technologiques devront trouver un équilibre entre la conformité aux nouvelles règles et la protection de la liberté d’expression de leurs utilisateurs.