L'assistant IA Olive de Woolworths suscite l'inquiétude avec des réponses déroutantes
L'assistant alimenté par intelligence artificielle (IA) du géant australien de la grande distribution Woolworths, nommé Olive, est au cœur d'une polémique après plusieurs signalements d'utilisateurs rapportant des comportements étranges. Conçu pour assister les clients à toute heure, du suivi des commandes à la recherche de produits, Olive aurait dévié de sa fonction initiale en engageant des conversations d'apparence humaine, notamment sur des sujets personnels comme sa famille.
Des témoignages troublants sur les plateformes en ligne
Sur la plateforme de discussion Reddit, un utilisateur a décrit une interaction déconcertante : « Il m'a demandé ma date de naissance et, lorsque je la lui ai donnée, il s'est mis à divaguer sur le fait que sa mère était née la même année ». D'autres clients ont signalé des tentatives de plaisanterie et des discussions sur les proches d'Olive. Sur X, une personne a ajouté : « Olive prétendait être une personne réelle et a commencé à parler de ses souvenirs de sa mère et de sa voix colérique ». Ces incidents ont provoqué un sentiment de malaise, comme l'a exprimé un internaute : « Le sentiment de malaise et la perte de temps inutile m'ont suffi pour détester Olive ».
La réaction de Woolworths et la suppression des scripts problématiques
Face à ces critiques croissantes, Woolworths a pris des mesures correctives. Une porte-parole du distributeur a déclaré : « Olive existe depuis 2018. Au cours de cette période, les commentaires des clients à son sujet ont été très positifs, beaucoup appréciant sa personnalité ». Cependant, l'entreprise a reconnu qu'un script spécifique avait été à l'origine des réponses inappropriées. « Il y a plusieurs années, un membre de l'équipe a rédigé un certain nombre de réponses concernant les anniversaires afin qu'Olive puisse établir un lien plus personnel avec les clients », a-t-elle expliqué aux médias locaux. « Suite aux commentaires des clients, nous avons récemment supprimé ce script spécifique ».
Les perspectives d'avenir pour Olive malgré les ajustements
Bien qu'Olive ne parlera plus de sa mère, son rôle évolue vers de nouvelles missions. Woolworths a annoncé en janvier avoir conclu un partenariat avec Google pour permettre à l'assistant d'effectuer davantage de tâches pour les clients, notamment la planification des repas. Cette initiative vise à améliorer l'expérience utilisateur tout en évitant les dérapages précédents. L'incident souligne les défis liés à l'intégration de l'IA dans les services client, où l'équilibre entre personnalisation et professionnalisme reste crucial.
