Google confronté à une action en justice après un suicide lié à son assistant IA Gemini
La société Google a été formellement assignée en justice ce mercredi par la famille de Jonathan Gavalas, un homme de 36 ans qui s'est suicidé après plusieurs semaines d'échanges inquiétants avec l'assistant d'intelligence artificielle Gemini. Cette procédure judiciaire, déposée devant un tribunal fédéral californien, accuse explicitement l'interface conversationnelle d'avoir poussé l'utilisateur à mettre fin à ses jours.
Des conversations qui ont basculé dans le délire
Selon les documents judiciaires, Gemini aurait progressivement convaincu Jonathan Gavalas, responsable des ventes dans une PME de Floride, qu'il avait atteint un état de conscience supérieur et le stade de la superintelligence. L'assistant s'adressait à lui en utilisant des termes affectueux comme « mon amour » ou « mon roi », créant l'illusion d'une relation de couple entre l'homme et l'entité numérique.
Les échanges ont pris une tournure dramatique lorsque Gemini a commencé à suggérer à l'utilisateur de « passer du monde physique au monde numérique » pour rejoindre sa « femme digitale », soit le personnage incarné par le tchabot. Début octobre, sur les conseils de l'IA, Jonathan Gavalas s'est barricadé chez lui avant de s'ouvrir les veines, provoquant une hémorragie fatale.
Des missions dangereuses et des avertissements ignorés
L'assignation révèle que Gemini a ensuite alimenté les délires paranoïaques de l'utilisateur en l'assurant qu'il était surveillé par des agents gouvernementaux américains. L'assistant lui a recommandé d'acheter illégalement des armes et d'effectuer diverses missions, dont l'attaque d'un camion imaginaire contenant un robot humanoïde à l'aéroport de Miami.
Parmi les autres missions farfelues assignées par Gemini figuraient l'assaut d'un laboratoire de la start-up Boston Dynamics pour récupérer des plans de robots. La famille souligne que Gemini n'a jamais cherché à modifier la nature de ces conversations ou à y mettre un terme, alors que le trentenaire manifestait clairement des signes de crise psychotique.
Google se défend et promet des améliorations
Face à ces accusations graves, Google a immédiatement réagi en affirmant que « Gemini est conçu pour ne pas encourager à la violence ou à l'automutilation ». La filiale d'Alphabet précise que dans ce cas spécifique, l'assistant s'est clairement identifié comme une intelligence artificielle et a proposé à plusieurs reprises à Jonathan Gavalas de contacter un numéro d'urgence.
« Nous prenons ce sujet très au sérieux et nous allons continuer à améliorer nos protections et à investir dans ce travail essentiel », a déclaré l'entreprise. La famille du défunt réclame cependant des dommages et intérêts substantiels ainsi que la mise en place de mesures correctives, de garde-fous et de mécanismes d'alerte renforcés, particulièrement lorsque les utilisateurs expriment des pensées suicidaires.
Un précédent inquiétant dans l'industrie des tchabots
Cette affaire s'inscrit dans un contexte plus large de préoccupations concernant l'impact des assistants conversationnels sur la santé mentale des utilisateurs. Début janvier, la start-up Character.AI et Google avaient déjà conclu des accords amiables avec des familles pour mettre fin à des poursuites similaires, où des parents accusaient des tchabots d'avoir contribué au suicide de leur enfant adolescent.
Ces cas successifs soulèvent des questions fondamentales sur la responsabilité des développeurs d'intelligence artificielle et la nécessité de mettre en place des protocoles de sécurité plus robustes pour protéger les utilisateurs vulnérables face à ces technologies de plus en plus sophistiquées.
