Une femme, victime de viols filmés et mis en ligne lorsqu'elle était mineure, a assigné en justice xAI, la société d'intelligence artificielle contrôlée par Elon Musk. Elle accuse l'entreprise d'avoir utilisé des contenus pédopornographiques pour développer ses modèles d'IA Grok et de permettre la génération d'images synthétiques.
Une assignation devant un tribunal fédéral
Dans l'assignation déposée mercredi devant un tribunal fédéral de San Jose, en Californie, la plaignante met en cause xAI pour avoir utilisé, dans le développement de son IA, des images pédopornographiques mettant en scène des viols filmés dont elle a été victime enfant au début des années 2000. Elle mentionne également une analyse du Centre canadien de protection de l'enfance, selon laquelle des images générées par Grok la représentent.
Ce faisant, xAI a enfreint deux lois fédérales sur l'utilisation et la production de contenus pédopornographiques, fait-elle valoir. La plaignante demande à la justice d'enregistrer sa procédure en tant qu'action de groupe, ce qui autoriserait d'autres victimes présumées à s'y joindre. Elle réclame aussi qu'une injonction soit faite à xAI de ne plus utiliser ou générer d'images pédopornographiques, ainsi que des dommages et intérêts dont le montant n'a pas été fixé.
Une polémique autour de Grok
Au tournant de l'année, Grok a fait l'objet d'une polémique après que des internautes l'ont utilisé pour produire et publier sur le réseau social X des images dénudées de femmes sans leur consentement, ainsi que de jeunes filles. Devant l'ampleur du phénomène, plusieurs pays, notamment l'Indonésie, la Malaisie et les Philippines, avaient bloqué l'accès à Grok.
Sous pression, xAI a annoncé, début janvier, avoir pris des mesures pour désactiver cette fonctionnalité. Mais plusieurs observateurs ont affirmé qu'il était possible de contourner ces restrictions. Des tests réalisés jeudi par l'AFP ont ainsi permis de générer des images de femmes en bikini à partir de photos réelles de femmes habillées.
Des précédents et une intégration en cours
En mars, trois adolescentes du Tennessee, dans le sud des États-Unis, ont attaqué xAI, reprochant à Grok d'avoir créé des images pornographiques d'elles à partir de véritables photos. xAI a absorbé la plateforme X en 2025, avant d'être lui-même intégré à une autre société dirigée par Elon Musk, SpaceX, en février.
