OpenAI a annoncé le déploiement d’un filigrane invisible sur les textes générés par ChatGPT et Codex au sein de l’Union européenne. Cette mesure vise à se conformer aux nouvelles exigences de transparence du règlement européen sur l’intelligence artificielle, entré en vigueur le 2 août. Le filigrane, appelé textGrain, s’appuie sur des ajustements subtils du choix des mots afin de laisser une empreinte détectable par des outils spécialisés, sans altérer la lisibilité pour l’utilisateur final.
Contexte réglementaire de l’Union européenne
Le règlement européen sur l’IA impose aux fournisseurs de systèmes d’intelligence artificielle de marquer tout contenu produit par leurs modèles lorsqu’il est diffusé publiquement. L’objectif est de garantir que les lecteurs puissent identifier les textes issus d’une IA, même lorsqu’ils sont copiés ou partagés. Cette obligation de transparence, appliquée depuis le 2 août, concerne tous les acteurs proposant des services d’IA dans l’UE, qu’ils soient basés sur le continent ou à l’étranger.
Fonctionnement du filigrane textuel
Contrairement à un symbole visible, le filigrane de OpenAI se manifeste par de légères variations dans les probabilités de sélection des mots. En modifiant discrètement les prédictions du modèle, OpenAI crée un motif récurrent que les détecteurs peuvent reconnaître grâce à une clé secrète. Ce motif persiste même après copie‑collage du texte, car il est intégré directement dans les mots choisis.
Le rapport technique publié avec l’annonce détaille la méthode textGrain. Co‑écrit avec des chercheurs de l’Université de Pennsylvanie et de Yale, le document explique comment un secret cryptographique oriente les prédictions du modèle, générant ainsi des « nudges » qui, cumulés, permettent à un algorithme de repérer le texte d’origine IA.
Implications pour les développeurs et les utilisateurs
Le filigrane sera activé progressivement pour les utilisateurs éligibles de ChatGPT et Codex en Europe, quel que soit le plan d’abonnement. Les développeurs utilisant l’API d’OpenAI à l’échelle mondiale peuvent activer cette fonctionnalité pour les modèles concernés, bien qu’elle reste désactivée par défaut. OpenAI précise que le filigrane n’est pas encore déployé à l’échelle mondiale et ne constitue pas une configuration par défaut.
Les tests internes montrent que le filigrane n’impacte pas de manière significative les performances des modèles. Cependant, la société a constaté que des modifications manuelles du texte – par exemple le remplacement de 10 % des mots par des synonymes – réduisent le taux de détection de 92 % à 66 %. De plus, les passages courts, les réponses mathématiques et les traductions restent plus difficiles à identifier.
- Pas d’identification de l’utilisateur : le filigrane ne révèle pas qui a généré le texte.
- Détection limitée : l’absence de filigrane ne prouve pas une rédaction humaine.
- Accès restreint aux détecteurs : OpenAI fournit initialement l’outil de détection à des chercheurs et organisations spécialisées pour évaluer sa fiabilité.
Réactions du secteur et perspectives
Cette initiative suit celle d’Anthropic, qui a annoncé le marquage de son modèle Claude à l’échelle mondiale, suscitant des débats parmi les utilisateurs quant à la reconnaissance du travail humain dans le processus de création. OpenAI, qui avait déjà développé un filigrane mais avait retardé son lancement par crainte de perdre des clients au profit de concurrents non marqués, estime désormais que le cadre réglementaire justifie son activation.
Plusieurs acteurs majeurs du secteur, dont Google, Meta, Microsoft et Anthropic, se sont engagés à respecter le code de pratique européen sur le contenu produit par l’IA. Cette convergence indique une tendance vers une plus grande transparence, même si les limites techniques – comme la facilité de suppression du filigrane par réécriture – restent un sujet de préoccupation.
En conclusion, le filigrane invisible de OpenAI représente une réponse concrète aux exigences légales européennes, tout en ouvrant la voie à de nouvelles discussions sur la détection, la responsabilité et l’équilibre entre innovation et protection des utilisateurs. Le suivi de son efficacité et de son adoption par la communauté technologique sera déterminant pour l’évolution des pratiques de transparence dans le domaine de l’intelligence artificielle.