La haute commissaire à l'enfance, Sarah El Hairy, a annoncé ce mercredi avoir saisi la Commission européenne après la découverte d'images d'enfants dénudées générées par intelligence artificielle sur la plateforme Hugging Face. Cette plateforme, très utilisée par la communauté des développeurs, héberge des modèles et des ensembles de données. Selon les premières informations, des utilisateurs auraient mis en ligne des modèles capables de produire des images à caractère pédopornographique.
Une alerte lancée par des associations
L'affaire a été révélée par plusieurs associations de protection de l'enfance, qui ont signalé la présence de ces contenus illicites. Elles dénoncent un vide juridique concernant les modèles d'IA générative et appellent à une régulation plus stricte. Sarah El Hairy a déclaré : « Nous ne pouvons tolérer que des technologies soient utilisées pour produire des abus sur mineurs. J'ai donc saisi la Commission européenne pour qu'elle prenne des mesures urgentes. »
Les responsabilités des plateformes en question
Hugging Face, de son côté, affirme avoir supprimé les modèles incriminés et renforcé ses systèmes de modération. Cependant, les associations estiment que ces actions sont insuffisantes. « Les plateformes doivent être tenues responsables de ce qui y est publié, surtout lorsqu'il s'agit de contenus générés par IA », insiste un porte-parole de l'une des associations.
Un problème croissant à l'échelle européenne
Ce n'est pas la première fois que des images d'enfants générées par IA sont signalées. En 2023, Europol avait déjà alerté sur les risques liés à l'utilisation de l'IA pour créer des contenus pédopornographiques. La Commission européenne, saisie par Sarah El Hairy, devra examiner si la législation actuelle, notamment le Digital Services Act, est suffisante pour couvrir ces nouveaux types d'abus.
Des mesures attendues rapidement
Sarah El Hairy a demandé que des mesures soient prises « dans les meilleurs délais » pour protéger les enfants. Elle propose notamment un renforcement des obligations de signalement pour les plateformes et une meilleure coopération entre les États membres. « L'Europe doit montrer l'exemple en matière de régulation de l'IA éthique », a-t-elle conclu.
