Le 11 août, Anthropic a annoncé que les textes produits par ses modèles Claude porteraient désormais une marque invisible. Les réactions ont été vives, entre accusations de mouchardage et crainte d'être signalé comme tricheur. L'objet technique est plus modeste que la controverse.
Une annonce qui suscite la polémique
L'entreprise d'intelligence artificielle a dévoilé son intention d'intégrer un filigrane invisible dans les sorties textuelles de ses modèles Claude. Cette décision, présentée comme un moyen de tracer l'origine des contenus générés par IA, a immédiatement déclenché un débat passionné au sein de la communauté des utilisateurs et des observateurs du secteur.
Les critiques portent principalement sur deux points : la crainte d'une surveillance généralisée des productions textuelles, et le risque que des utilisateurs légitimes soient injustement accusés de tricherie, notamment dans les contextes académiques ou professionnels. Certains y voient une atteinte à la liberté d'expression, d'autres un outil de contrôle excessif.
Un mécanisme technique discret
Derrière la controverse, le fonctionnement du filigrane est relativement simple. Une IA produit son texte token par token, ces fragments de mots qui servent d'unité de calcul et de facturation. À chaque étape, plusieurs suites sont plausibles et elle en choisit une au hasard. Le filigrane consiste à truquer discrètement ce tirage au sort en favorisant une moitié du vocabulaire désignée par une clé secrète.
Cette approche permet de rendre le filigrane invisible à l'œil humain, tout en le rendant détectable par une analyse statistique. La clé secrète, connue uniquement d'Anthropic, permet de vérifier l'origine d'un texte sans altérer sa qualité ou sa lisibilité.
Des réactions contrastées
Les réactions des utilisateurs et des experts sont partagées. Certains saluent une avancée pour la traçabilité des contenus générés par IA, notamment dans la lutte contre la désinformation. D'autres s'inquiètent des implications éthiques et juridiques, comme le droit à l'anonymat ou la présomption d'innocence.
Anthropic devra répondre à ces préoccupations pour que son filigrane soit accepté. L'entreprise pourrait publier des précisions sur les usages prévus, les garanties de protection des données, et les mécanismes de recours en cas de faux positif. En attendant, le débat reste ouvert sur la balance entre transparence et respect des libertés individuelles.
