L’intelligence artificielle (IA) est de plus en plus présente dans notre vie quotidienne, et les entreprises qui développent ces technologies doivent désormais répondre à des exigences de transparence. Anthropic, l’entreprise derrière le chatbot Claude, a récemment annoncé qu’elle allait mettre en place un système de watermarking pour identifier les contenus générés par son modèle d’IA. Mais comment cela fonctionne-t-il exactement ? Dans cet article, nous allons explorer les détails de ce système et ses implications pour les utilisateurs de Claude.
Comment fonctionne le watermarking d’Anthropic ?
Selon Anthropic, le watermarking consiste à créer un pattern dans les réponses générées par Claude qui est indécelable pour le lecteur, mais détectable pour quiconque possède la clé qui le code. Cela signifie que lorsque Claude fait des choix « à faible enjeu » – comme choisir entre les mots « couvert » et « gris » pour décrire le temps – il peut créer un modèle qui est imperceptible pour le lecteur, mais qui peut être détecté par ceux qui ont accès à la clé. Anthropic utilise l’approche SynthID-Text, développée par l’équipe Google DeepMind en 2024, et prévoit de publier une API de détection de watermark.
Les implications du watermarking pour les utilisateurs de Claude
Certains utilisateurs de Claude se sont exprimés contre la mise en place de ce système de watermarking, craignant que cela ne les empêche de utiliser le chatbot pour leurs besoins personnels ou professionnels. Cependant, Anthropic affirme que le watermarking n’affecte pas la qualité des réponses générées par Claude et que les textes watermarqués sont indiscernables des textes non watermarqués pour le lecteur. La société précise également que le watermarking est distinct des approches de détection d’IA proposées par d’autres sociétés, qui se basent sur la recherche de « signes » dans l’écriture pour révéler l’utilisation d’IA.
Les limites du watermarking et l’avenir de l’IA
Il est possible de masquer le watermark en réécrivant le texte, mais Anthropic affirme que des modifications légères ne suffiront pas à supprimer complètement le watermark. De plus, si le texte est entièrement réécrit, il est probable que le contenu ne soit plus considéré comme généré par IA. Anthropic précise également que le watermarking aura un impact négligeable sur les codes générés par Claude, car le modèle doit créer du code fonctionnel et n’a pas la liberté de choisir entre des options équivalentes. D’autres entreprises d’IA devraient également mettre en place des systèmes de watermarking similaires, car elles ont signé le même Code de pratique et sont tenues de mettre en œuvre leurs propres watermarks. Dans l’avenir, il sera intéressant de voir comment les utilisateurs et les entreprises réagiront à ces nouveaux systèmes de watermarking et comment cela affectera l’utilisation de l’IA dans différents domaines.