Depuis le 2 août, les fournisseurs de modèles d’intelligence artificielle générative les plus avancés doivent garantir que leurs utilisateurs européens savent qu’ils interagissent avec une IA et que les contenus produits soient identifiables comme tels. Anthropic a été l’un des premiers à détailler sa réponse : les modèles de Claude lancés depuis cette date intègrent dans leurs textes un filigrane invisible. Rien ne s’affiche à l’écran, rien ne change à la lecture, mais la marque est intégrée au texte lui-même et doit survivre au copier-coller. Le paragraphe peut donc voyager, mais l’information de son origine IA aussi.
Un marquage qui ne dit pas tout
Le dispositif présente cependant une limite importante : il ne dira pas nécessairement qui a écrit le texte. Un article rédigé par un humain puis corrigé, traduit ou résumé par Claude pourra porter le filigrane. À l’inverse, un passage trop court ou fortement réécrit peut ne plus le contenir. Anthropic le reconnaît lui-même : le marquage permettra surtout d’indiquer qu’un contenu est passé par la machine, pas qu’elle en est l’auteur.
La nuance devrait décevoir ceux, professeurs ou autres, qui espéraient déjà régler le cas des dissertations en quelques secondes. Le procédé sera peu utile, à lui seul, pour confondre un étudiant ou authentifier un document. Et, pour l’instant, Anthropic n’a pas encore publié l’outil permettant de détecter son filigrane, pourtant exigé par le texte européen.
Des métadonnées pour les images et l’audio
Pour les images et les autres fichiers, le principe change légèrement : Anthropic prévoit des métadonnées de provenance signées. OpenAI, de son côté, utilise déjà SynthID, la technologie de filigrane mise au point par Google DeepMind, pour marquer de façon invisible les images générées par l’IA, et l’a récemment étendue à l’audio. Plusieurs acteurs soutiennent également C2PA, une norme destinée à conserver et transmettre des informations sur l’origine du contenu.
Marqué, puis détecté
Marquer ne suffit pas : encore faut-il être capable de lire la marque. Walter Pasquarelli, chercheur à l’université de Cambridge et conseiller auprès de l’OCDE, décrit à Politico un fonctionnement assez simple : « Vous générez quelque chose avec Claude, vous le publiez sur un réseau social et, au moment de poster, l’interface de la plateforme peut disposer de détecteurs capables d’identifier le filigrane. » Ce passage de l’invisible au visible pourrait modifier une habitude très récente : lire sans toujours savoir qui ou quoi a écrit. Selon le chercheur, plusieurs travaux montrent que l’engagement baisse nettement lorsque les internautes savent qu’un contenu a été généré par une IA. LinkedIn propose déjà à ses utilisateurs de signaler un post qui « semble être de la ‘slop’ IA », cette production massive de contenus artificiels souvent peu qualitatifs, qui ne manquaient pas franchement à Internet.
L’enjeu dépasse donc la seule conformité européenne. Anthropic aurait annoncé qu’il appliquerait son marquage dans le monde entier, et non aux seuls utilisateurs de l’Union européenne. Environ 190 organisations ont par ailleurs signé fin juillet le code de bonnes pratiques associé au règlement, parmi lesquelles Google, Meta, Microsoft, Mistral et OpenAI. Les entreprises récalcitrantes risqueront jusqu’à 15 millions d’euros d’amende ou 3 % de leur chiffre d’affaires mondial.
