Google a reconnu que son modèle d'intelligence artificielle Gemini présentait des biais racistes dans la génération d'images, et a annoncé travailler à des améliorations. Cette décision fait suite à des critiques selon lesquelles l'outil produisait des résultats historiquement inexacts, notamment en représentant des personnages historiques avec des origines ethniques différentes de la réalité.
Des images historiques jugées inexactes
Le géant américain a présenté ses excuses après que des utilisateurs ont signalé que Gemini générait des images de soldats de la Wehrmacht ou des Pères fondateurs américains avec des peaux de couleur noire. Ces représentations, bien que destinées à promouvoir la diversité, ont été jugées contre-productives et sources de confusion historique.
Dans un communiqué, Google a indiqué que son équipe travaillait « immédiatement » à corriger ces problèmes. « Nous sommes conscients que Gemini propose des inexactitudes dans certaines représentations historiques, et nous travaillons à des améliorations », a déclaré un porte-parole de l'entreprise.
Un problème plus large de partialité
Les biais de Gemini ne se limitent pas aux images. Des tests ont montré que le modèle pouvait également produire des réponses partiales sur des sujets sensibles, comme la criminalité ou les capacités intellectuelles selon les groupes ethniques. Google a reconnu que ces problèmes étaient « inacceptables » et a promis de renforcer ses processus de test.
L'entreprise a également annoncé qu'elle allait suspendre la fonctionnalité de génération d'images de personnes, le temps d'apporter les correctifs nécessaires. Cette décision intervient alors que Gemini est intégré à plusieurs produits Google, comme la recherche et Gmail, ce qui amplifie l'impact de ces biais.
Réactions et conséquences
Des experts en éthique de l'IA ont salué la réactivité de Google, mais soulignent que cela révèle un problème structurel dans la conception des modèles. « Les biais ne sont pas un bug, mais une conséquence des données d'entraînement et des choix humains », a commenté une chercheuse en IA, sous couvert d'anonymat.
En attendant, les utilisateurs de Gemini ne pourront plus générer d'images de personnes, une fonctionnalité très prisée. Google n'a pas donné de calendrier précis pour le retour de cette fonction, mais a assuré que les améliorations seraient mises en œuvre « dans les prochaines semaines ».
