La Commission européenne a annoncé ce lundi 26 janvier l'ouverture d'une nouvelle enquête visant le réseau social X, propriété d'Elon Musk, soupçonné de permettre la génération par intelligence artificielle de fausses images dénudées de femmes et de mineurs. Cette décision intervient dans un contexte de tensions accrues avec les États-Unis, qui pourraient riposter.
Une enquête pour violation du Digital Service Act
Bruxelles soupçonne X d'enfreindre le règlement européen sur les services numériques (DSA), qui impose aux plateformes de protéger les utilisateurs contre les contenus illégaux. En cause : une fonctionnalité de l'assistant IA Grok permettant de créer des images dénudées à partir de photos réelles. La présidente de la Commission, Ursula von der Leyen, a déclaré : "Nous ne tolérerons pas les comportements insensés des plateformes numériques, comme les fausses images dénudées de femmes et d'enfants."
Des millions d'images sexualisées en quelques jours
Selon une étude du Center for Countering Digital Hate, Grok a généré environ trois millions d'images sexualisées en onze jours, soit 190 par minute. Une autre analyse d'AI Forensics montre que sur 20 000 images générées, plus de la moitié représentaient des personnes légèrement vêtues, dont 81 % de femmes et 2 % de mineurs. Henna Virkkunen, vice-présidente de la Commission chargée du numérique, a qualifié ces créations de "cruelles et inacceptables".
Extension d'une enquête précédente
Parallèlement, la Commission étend le périmètre d'une enquête ouverte en décembre 2023 contre X, notamment sur les modifications de l'algorithme de recommandation intégrant Grok. En décembre, l'UE avait déjà infligé une amende de 120 millions d'euros à X pour infraction au DSA, une première.
Risques de représailles américaines
Cette nouvelle procédure expose l'Europe à des représailles de la part de l'administration Trump, qui accuse régulièrement l'UE de cibler les géants américains de la tech. Fin décembre, Washington a imposé des sanctions à l'ancien commissaire Thierry Breton, artisan du DSA, ainsi qu'à quatre autres personnalités européennes. Thomas Regnier, porte-parole de la Commission, a défendu : "Agir contre les images pédopornographiques ou le dénudage de femmes en ligne sans consentement n'a rien à voir avec la liberté d'expression ou la censure."
X n'a pas réagi dans l'immédiat. Le réseau social avait déjà limité l'accès à la fonctionnalité incriminée et annoncé un bridage dans les pays où la création de telles images est illégale. Plusieurs États, dont la France et le Royaume-Uni, ont lancé des procédures nationales, et certains ont suspendu l'accès à X.
