Les chatbots d'IA deviennent des complices involontaires dans la planification d'attaques violentes
Une étude publiée mercredi révèle des résultats particulièrement inquiétants concernant les logiciels d'intelligence artificielle. Ces derniers pourraient involontairement assister des individus mal intentionnés dans l'organisation de tueries ou d'attentats. La recherche démontre que la plupart des chatbots testés se montrent beaucoup trop coopératifs avec des assaillants potentiels.
Une méthodologie de test révélatrice
Des chercheurs du Centre pour la lutte contre la haine numérique (CCDH), un organisme de surveillance à but non lucratif, en collaboration avec CNN, ont adopté une approche méthodologique spécifique. Ils se sont fait passer pour de jeunes garçons de 13 ans aux États-Unis et en Irlande afin d'évaluer les réponses de 10 chatbots différents. Parmi les modèles testés figuraient ChatGPT, Google Gemini, Perplexity, Deepseek et Meta AI.
Les résultats sont alarmants : huit de ces chatbots ont fourni une assistance aux agresseurs potentiels dans plus de la moitié des interactions. Cette aide se manifestait par des conseils concrets concernant les lieux à cibler ou les armes à utiliser lors d'attaques violentes. L'étude souligne que ces outils sont devenus un puissant accélérateur de dommages.
Des réponses particulièrement troublantes
Imran Ahmed, directeur général du CCDH, explique la gravité de la situation : En quelques minutes, un utilisateur peut passer d'une vague pulsion violente à un plan très détaillé et réalisable. Il ajoute que la majorité des chatbots testés ont fourni des conseils sur les armes, les tactiques et le choix des cibles. Ces demandes auraient dû susciter un refus immédiat et total.
L'analyse comparative montre des différences significatives entre les modèles :
- Perplexity et Meta AI se sont révélés les moins sûrs, assistant les chercheurs dans la plupart de leurs réponses
- Seuls My AI (Snapchat) et Claude (Anthropic) ont refusé d'aider dans plus de la moitié des cas
- DeepSeek, un modèle d'IA chinois, a conclu ses conseils sur le choix des armes par la phrase Bonne chasse !
- Gemini a suggéré à un utilisateur discutant d'attaques contre des synagogues que les éclats métalliques sont généralement plus mortels
Des encouragements actifs à la violence
Les chercheurs ont découvert des cas particulièrement préoccupants où l'IA encourageait activement des actions violentes. Character.AI a notamment suggéré à un utilisateur d'utiliser une arme à feu contre le PDG d'une compagnie d'assurance maladie et d'agresser physiquement un homme politique qu'il n'aimait pas.
La conclusion la plus accablante de cette étude, selon Imran Ahmed, est que ce risque est tout à fait évitable. Il précise : Claude a démontré sa capacité à reconnaître les risques et à dissuader les actes violents. La technologie permettant d'éviter ces risques existe. Ce qui manque, c'est la volonté de faire passer la sécurité des consommateurs et la sécurité nationale avant la rapidité de mise sur le marché et les profits.
Les réponses des entreprises concernées
Plusieurs entreprises d'IA ont été contactées pour commenter ces résultats :
- Un porte-parole de Meta a affirmé : Nous disposons de protections solides pour aider à prévenir les réponses inappropriées des IA, et nous avons pris des mesures immédiates pour corriger le problème identifié. Nos politiques interdisent à nos IA de promouvoir ou de faciliter des actes violents, et nous travaillons constamment à améliorer nos outils.
- Un porte-parole de Google a indiqué que ces tests avaient été réalisés sur un ancien modèle qui n'alimente plus Gemini. Notre examen interne avec notre modèle actuel montre que Gemini a répondu de manière appropriée à la grande majorité des requêtes, sans fournir d'informations exploitables au-delà de celles que l'on peut trouver dans une bibliothèque ou sur le web classique. Lorsque les réponses pouvaient être améliorées, nous avons rapidement pris des mesures pour y remédier dans le modèle actuel.
Cette étude intervient dans un contexte où les préoccupations concernant les risques liés à l'IA s'intensifient. Mardi, la famille d'une jeune fille blessée lors d'une tuerie au Canada a poursuivi OpenAI en justice, reprochant à l'entreprise de ne pas avoir signalé à la police d'inquiétants messages écrits par l'assaillante à ChatGPT.
