Les intelligences artificielles génératives, comme ChatGPT ou Gemini, ne sélectionnent pas leurs sources de manière neutre. Une étude menée par des chercheurs de l'université de Stanford, publiée en mars 2025, montre que ces systèmes privilégient les contenus les plus visibles sur le web, créant un biais de notoriété au détriment de la diversité et de la fiabilité de l'information.
Un biais de visibilité amplifié
Selon les auteurs de l'étude, 60% des citations produites par les IA génératives proviennent de seulement 20% des sites web les plus populaires, comme Wikipedia, les grands médias généralistes ou les blogs très référencés. Les sources spécialisées, locales ou moins connues sont largement ignorées, même lorsqu'elles sont plus pertinentes ou plus récentes.
Ce phénomène s'explique par le fonctionnement des modèles de langage : ils sont entraînés sur des corpus de textes massifs, principalement issus du web crawl, où les pages les plus liées et les plus visitées sont surreprésentées. Les IA reproduisent donc les hiérarchies de visibilité existantes, sans tenir compte de la qualité intrinsèque des sources.
Des conséquences sur la fiabilité de l'information
Ce biais a des implications concrètes. Par exemple, une requête sur un sujet de santé peut amener l'IA à citer un site grand public plutôt qu'une revue médicale spécialisée, augmentant le risque de désinformation. De même, les points de vue minoritaires ou les recherches de pointe sont souvent exclus, ce qui appauvrit la diversité des réponses.
Les chercheurs notent que les IA génératives ne distinguent pas entre sources fiables et non fiables. « Un article de blog non vérifié peut être cité aussi souvent qu'un article scientifique, du moment qu'il est bien référencé », explique le Dr. Sarah Lefèvre, co-autrice de l'étude. « Cela pose un problème majeur pour l'éducation et la recherche. »
Vers une meilleure régulation des sources
Face à ce constat, plusieurs pistes sont envisagées. Les développeurs d'IA pourraient introduire des mécanismes de pondération des sources en fonction de leur crédibilité, ou permettre aux utilisateurs de spécifier des critères de sélection. Des initiatives comme le projet SourceCheck visent à créer des bases de données de sources fiables, labellisées par des experts.
En attendant, les experts recommandent aux utilisateurs de vérifier systématiquement les sources citées par les IA et de croiser les informations. « L'IA est un outil puissant, mais elle ne remplace pas l'esprit critique », conclut le Dr. Lefèvre.
