Un informaticien âgé de 28 ans a été déféré ce vendredi devant le parquet de Nice pour avoir administré un site internet spécialisé dans la création de deepfakes à caractère sexuel. Selon les informations de nos confrères de France 3 Provence-Alpes-Côte d'Azur, l'homme est accusé d'avoir mis en ligne des vidéos pornographiques générées par intelligence artificielle sans le consentement des personnes représentées.
Une enquête ouverte après des signalements
L'affaire a débuté il y a plusieurs mois, lorsque des victimes potentielles ont signalé aux autorités l'existence de ce site. Les enquêteurs de la police judiciaire de Nice ont alors ouvert une enquête préliminaire, confiée à la brigade de lutte contre la cybercriminalité. Les investigations ont permis d'identifier le suspect, qui résidait dans la région niçoise.
Lors de la perquisition menée au domicile du mis en cause, les policiers ont saisi du matériel informatique, notamment des ordinateurs et des disques durs contenant des preuves de son activité illicite. Le site en question proposait des vidéos deepfake, souvent à caractère pornographique, réalisées à partir d'images volées sur les réseaux sociaux ou d'autres sources en ligne.
Des victimes souvent des femmes
Les deepfakes, ou hypertrucages, sont des vidéos ou des images créées ou modifiées par intelligence artificielle pour faire dire ou faire faire à une personne des choses qu'elle n'a pas dites ou faites. Dans ce cas précis, les vidéos étaient conçues pour simuler des actes sexuels impliquant des personnes réelles, majoritairement des femmes, sans leur accord.
Ce type de contenu peut causer un préjudice moral et psychologique considérable aux victimes, qui se voient instrumentalisées à leur insu. La législation française réprime sévèrement ces pratiques, notamment via la loi du 30 juillet 2020 visant à lutter contre les contenus haineux sur internet, qui prévoit des peines pouvant aller jusqu'à deux ans d'emprisonnement et 60 000 euros d'amende.
Un phénomène en pleine expansion
Les deepfakes à caractère sexuel sont un phénomène en pleine expansion, facilité par la démocratisation des outils d'intelligence artificielle. Selon une étude récente, le nombre de vidéos deepfake en ligne a doublé chaque année depuis 2018, et la grande majorité d'entre elles sont de nature pornographique.
Le suspect, qui aurait reconnu les faits lors de sa garde à vue, a été déféré en vue de l'ouverture d'une information judiciaire. Il risque des poursuites pour diffusion d'images à caractère pornographique d'une personne sans son consentement, ainsi que pour administration d'un site internet illicite.
Cette affaire illustre les défis posés par les nouvelles technologies en matière de respect de la vie privée et de lutte contre les violences sexistes et sexuelles. Les autorités appellent les victimes potentielles à signaler ces contenus aux plateformes et aux forces de l'ordre.
