L’Union européenne a récemment mis en place de nouvelles réglementations concernant l’utilisation de l’intelligence artificielle, notamment en ce qui concerne la transparence des contenus générés par les modèles d’IA. Pour se conformer à ces exigences, Anthropic, un fabricant de modèles d’IA, a annoncé qu’il allait introduire un système de watermarking pour les contenus générés par ses modèles, y compris Claude. Cette décision vise à garantir que les utilisateurs soient informés lorsque le contenu a été généré ou édité par une intelligence artificielle.
Le besoin de transparence dans les contenus générés par l’IA
La réglementation européenne exige que les entreprises d’IA marquent clairement les contenus générés ou édités par leurs modèles, afin que les utilisateurs puissent les identifier facilement. Cette mesure vise à prévenir les abus et les utilisations malveillantes de l’IA, ainsi qu’à protéger les droits des créateurs de contenus. Anthropic a décidé de mettre en œuvre ce système de watermarking pour tous ses modèles, y compris Claude, qui est utilisé pour générer du texte et des fichiers. Le watermarking sera appliqué au niveau du modèle, ce qui signifie que les contenus générés par Claude seront marqués, quelle que soit la plateforme ou le produit utilisé.
Comment fonctionne le watermarking d’Anthropic
Selon Anthropic, le watermarking sera appliqué à tous les modèles publiés après le 2 août, date d’entrée en vigueur de la réglementation européenne. Le système utilise la norme ouverte C2PA pour les fichiers, et le watermark sera intégré directement dans le texte généré. Cela signifie que lorsque les utilisateurs copient et collent du texte généré par Claude, le watermark sera conservé, même si le texte est modifié. Cependant, il n’est pas clair combien de modifications sont nécessaires pour supprimer le watermark. Anthropic a indiqué qu’il étendrait le support du watermarking à ses anciens modèles, mais il n’a pas fourni de détails sur la façon dont cela serait mis en œuvre.
Les implications de la réglementation européenne sur l’industrie de l’IA
La décision d’Anthropic de mettre en œuvre le watermarking est une réponse directe aux réglementations européennes, mais elle n’est pas la seule entreprise à prendre des mesures pour se conformer à ces exigences. D’autres entreprises, telles que Black Forest Labs, Google, Meta, Microsoft, OpenAI et Synthesia, ont également annoncé leur intention de respecter le code de transparence de l’UE. Cette tendance montre que l’industrie de l’IA est en train de prendre des mesures pour améliorer la transparence et la responsabilité, et pour éviter les abus et les utilisations malveillantes de la technologie. Cependant, il reste à voir comment ces mesures seront mises en œuvre et comment elles affecteront l’utilisation de l’IA dans différents domaines.