YouTube élargit l'accès à son outil de détection des deepfakes
La plateforme vidéo de Google propose désormais aux célébrités et artistes de Hollywood un outil de détection gratuit des deepfakes, développant encore la lutte contre les usurpations d'identité générées par l'intelligence artificielle. Cet outil, lancé le mois dernier, permet d'identifier les contenus où un visage apparaît modifié ou généré par IA. Initialement destiné aux responsables gouvernementaux, journalistes et personnels politiques, il est maintenant accessible aux acteurs et musiciens via leurs agences de talents et sociétés de management.
Un pouvoir de détection et de suppression
L'outil permet de rechercher des contenus générés par l'IA reprenant l'apparence d'un participant, comme un deepfake de son visage, et donne le pouvoir de les dénicher et d'en demander la suppression. Les célébrités et artistes peuvent y accéder même sans disposer de chaîne sur la plateforme. Alon Yamin, directeur général et cofondateur de Copyleaks, une plateforme de détection de contenus générés par l'IA, estime que cette initiative marque un tournant dans la manière dont les plateformes abordent la protection de l'identité à l'ère de l'IA générative. Il souligne que la technologie permettant de reproduire le visage, la voix et les mimiques a avancé plus vite que les garde-fous, créant un fossé que des acteurs malveillants exploitent déjà.
Des enjeux majeurs
L'initiative intervient alors que se multiplient les vidéos hyperréalistes de célébrités disparues, créées avec des applications grand public comme Sora d'OpenAI. Cette application a déclenché un flot de vidéos de Michael Jackson ou d'Elvis Presley, et OpenAI a fermé son application Sora le mois dernier. En février dernier, le réalisateur irlandais Ruairí Robinson avait créé un clip réaliste montrant Brad Pitt se battant avec Tom Cruise sur un toit, généré avec Seedance 2.0 de ByteDance. Charles Rivkin, patron de la Motion Picture Association, a appelé ByteDance à cesser immédiatement ses activités de contrefaçons, accusant l'entreprise de bafouer le droit d'auteur. YouTube travaille avec les principales agences de talents pour améliorer la détection des images problématiques et mieux protéger les artistes.
« Leur patrimoine, c'est leur visage, leur corps »
Jason Newman, de la société de management et de production Untitled Entertainment, se réjouit que YouTube fournisse ces outils gratuitement aux talents pour protéger leur patrimoine. Il explique que leur patrimoine est leur visage, leur corps, qui ils sont, ce qu'ils font, leur façon de s'exprimer. Le développement de l'outil fait suite à des plaintes de personnalités américaines dénonçant les lourdeurs de la procédure sur YouTube pour signaler et retirer un deepfake. Alon Yamin souligne que les enjeux sont particulièrement élevés car les deepfakes peuvent être utilisés pour diffuser de la désinformation, manipuler les marchés, nuire à des réputations ou laisser croire à un soutien trompeur. Une détection robuste n'est plus optionnelle. Les systèmes de détection doivent être extrêmement précis, continuellement mis à jour et associés à des règles claires et des procédures de retrait rapides pour être efficaces. Cela n'éliminera pas totalement les deepfakes, mais peut réduire considérablement leur portée et leur impact.
