« Bisous mes petits loups. » Un message signé Emmanuel Macron. Vraie ou fausse vidéo ? Donald Trump, Vladimir Poutine et Kim Jong-un partageant un barbecue sur un bateau, vraie ou fausse vidéo ? Ce ne sont que des fakes, ou plus exactement des deepfakes, autrement dit des « hypertrucages » reposant sur l’intelligence artificielle (IA). Des images ou des vidéos qui peuvent prêter à sourire, à condition de ne pas y croire, mais qui ne représentent que la face cachée d’un fléau qui peut aujourd’hui toucher… n’importe qui.
Le phénomène des deepfakes pornographiques
On parle de deepfakes pornographiques. Il s’agit d’images ou de vidéos modifiées ou fabriquées à l’aide de l’IA, exposant des femmes nues ou les transformant en actrices porno sans leur consentement. Un phénomène sur lequel s’est penchée Sources, la collection documentaire d’investigation d’Arte. Diffusé sur Arte.tv et YouTube ce mercredi, cet épisode réalisé par Edouard Blondeau, et coproduit par ARTE France et CAPA Presse, se penche plus spécifiquement « sur ceux qui exploitent l’IA pour dégrader l’image des femmes ».
« Je deepfake vos meufs »
À travers cette enquête, les journalistes de Sources explorent toutes les facettes des deepfakes pornographiques, et leurs conséquences sur les victimes. De la polémique autour de Grok, l’IA d’Elon Musk, dont l’une des fonctionnalités permet aux internautes de déshabiller tout un chacun sur X, aux sites qui permettent à des créateurs de contenus de générer de l’argent en exploitant l’image des femmes… Tout est passé au crible, et participe à mettre à nu des cyberviolences sexistes et sexuelles en plein boom.
Sur Telegram, des groupes permettent à des hommes d’échanger des deepfakes porno de célébrités ou d’anonymes. À peine intégrés, les journalistes sont soumis à un sondage : « J’ai envie de faire un fake parmi ces filles, on fait laquelle ? ». Un vote plus tard, le choix est fait, ça sera une influenceuse jeux vidéo. Facile. Illégal, mais facile. L’enquête se penche en parallèle sur des groupes où des anonymes sont transformées en actrices porno, incluant des milliers de membres. « Je deepfake vos meufs » ou « Qui a faim ? J’offre ma femme » comptent parmi les messages associés à ces deepfakes.
« On est à la merci d’autrui »
Ces groupes ne sont pas sans rappeler une affaire qui a secoué l’Allemagne en mars dernier. L’animatrice Collien Fernandes a révélé avoir porté plainte contre son ex-mari, Christian Ulmen, pour « agression, usurpation d’identité et diffamation ». En cause, de fausses vidéos pornographiques utilisant son visage et sa voix diffusées auprès d’autres hommes pendant des années. Des accusations que conteste son ex-mari. Les journalistes de Sources ont interrogé Collien Fernandes qui confie notamment : « On est à la merci d’autrui. […] La violence numérique a des conséquences bien réelles ».
Cette enquête, qui revient également sur les textes de loi existants ou à l’étude, est à découvrir ce mercredi sur Arte.tv et YouTube.
