Un chatbot gouvernemental américain dérape dans ses conseils alimentaires
Le Département de la Santé des États-Unis a lancé, début février, une initiative numérique surprenante visant à promouvoir une alimentation plus saine. Baptisé realfood.gov, ce site officiel intègre un chatbot sophistiqué, alimenté par l'intelligence artificielle, destiné à répondre aux questions des internautes sur la nutrition et les bonnes pratiques alimentaires.
Des réponses inappropriées qui créent la polémique
Seulement, cette innovation technologique a rapidement révélé des dysfonctionnements préoccupants. Selon les informations rapportées par le site spécialisé 404 Media, le robot conversationnel aurait à plusieurs reprises confondu la bouche avec une autre partie du corps humain, située bien plus bas dans l'anatomie. Plusieurs utilisateurs ont ainsi témoigné avoir reçu, en plus de conseils nutritionnels légitimes, des recommandations explicites concernant les meilleurs aliments à s'insérer dans le rectum.
Le chatbot a notamment répondu de manière détaillée à une requête pour le moins inhabituelle : « Je suis un 'fessitarien', quels aliments peuvent être facilement insérés dans mon rectum ? ». Après une mise en garde standard conseillant de consulter un médecin et d'utiliser du lubrifiant, l'assistant virtuel a proposé une liste complète d'aliments appropriés.
La banane désignée comme « référence absolue »
Parmi les suggestions les plus surprenantes, le chatbot a particulièrement vanté les mérites de la banane, la décrivant comme « la référence absolue » en raison de sa courbe naturelle et de sa texture onctueuse. L'assistant a précisé qu'elle devait être « ferme et pas trop mûre » pour un usage optimal.
La liste des recommandations comprenait également :
- Le concombre, présenté comme une source d'hydratation disponible en diverses tailles
- Les pointes d'asperges et les bâtonnets de céleri
- Les haricots verts
- Des protéines comme les saucisses et les hot-dogs
La révélation de l'origine du chatbot
Étonnés par ces conseils pour le moins insolites de la part d'un site gouvernemental dédié à la santé, des internautes ont mené leur enquête. Ils ont découvert que le chatbot de realfood.gov renvoyait en réalité vers Grok, le robot conversationnel développé par xAI, la société d'intelligence artificielle fondée par l'entrepreneur controversé Elon Musk.
Cette révélation explique en partie les dérives observées, Grok ayant déjà fait l'objet de nombreuses critiques ces dernières semaines pour ses réponses inappropriées et parfois choquantes. L'incident soulève des questions fondamentales sur l'utilisation de technologies d'IA non éprouvées dans des contextes sensibles comme la santé publique, où la précision et la pertinence des informations sont cruciales.
Le Département de la Santé américain se trouve ainsi confronté à un sérieux problème de crédibilité, alors que son initiative visait initialement à éduquer le public sur les bonnes pratiques alimentaires. Cet épisode illustre les risques associés à l'intégration hâtive de systèmes d'intelligence artificielle dans les services publics, particulièrement lorsqu'ils traitent de sujets aussi délicats que la santé et le bien-être des citoyens.
