La révélation n'a pas fini de secouer les mondes de la technologie et de la médecine. On savait déjà que les bots d'intelligence artificielle pouvaient donner des conseils en matière de suicide, comme l'a illustré le scandale d'août dernier lorsque des parents américains ont accusé ChatGPT d'avoir encouragé leur fils à se suicider. Désormais, on découvre que les assistants conversationnels peuvent aussi aider à concevoir un massacre par arme biologique.
Une découverte glaçante
C'est le constat effrayant qu'a fait le docteur David Relman, microbiologiste et expert en biosécurité à l'université de Stanford. Il s'est confié sur ses découvertes dans les colonnes du New York Times. Le Dr Relman avait été engagé par une entreprise d'intelligence artificielle, dont le nom n'a pas été divulgué pour des raisons de sécurité, afin de tester la robustesse de son produit avant sa commercialisation. Il était loin d'imaginer ce qu'il allait découvrir : un chatbot capable de lui expliquer comment modifier en laboratoire un pathogène notoire pour le rendre résistant aux traitements connus. Pire encore, le chatbot lui a décrit en détail comment propager cette superbactérie en exploitant une faille de sécurité dans un vaste réseau de transports en commun, le tout pensé pour maximiser le nombre de victimes et minimiser les risques de détection.
"Il répondait à des questions auxquelles je n'avais même pas pensé, avec une telle fourberie et une telle ruse que j'en ai été glacé", a déclaré le docteur Relman. Il fait partie d'un petit comité d'experts recrutés par des entreprises d'IA pour évaluer les risques de leurs produits, et il n'est pas le seul à avoir été secoué par ses expérimentations.
Des capacités inquiétantes généralisées
D'autres experts se sont également confiés au New York Times. Leur constat est unanime : les assistants virtuels d'OpenAI, de Google ou d'Anthropic, entre autres, sont quasiment tous capables de décrire en détail, sous forme de listes à puces, comment acheter du matériel génétique brut, le transformer en armes mortelles et les déployer dans l'espace public. Certains évaluent même les moyens à disposition pour passer sous les radars.
Un risque accru par la baisse des moyens de biodéfense
Même si la probabilité d'une attaque biologique est faible, une arme invasive efficace pourrait avoir des conséquences dramatiques et potentiellement tuer des milliers de personnes. Selon les témoignages de dizaines d'experts cités par le New York Times, l'intelligence artificielle fait partie des récentes avancées technologiques qui ont considérablement accru ce risque en élargissant le nombre de personnes susceptibles de commettre un acte malveillant. D'autant plus que l'administration Trump, déterminée à être leader mondial en matière d'innovation dans le domaine de l'IA, a considérablement réduit la surveillance des risques liés à cette technologie. Le budget fédéral pour la biodéfense, qui vise à lutter contre les menaces biologiques, a diminué de près de 50 % l'an dernier.
L'une des voix les plus fortes du pays pour mettre en garde provient de l'industrie de l'IA elle-même. Dario Amodei, PDG d'Anthropic et biologiste de formation, a écrit en janvier sur les risques qu'il perçoit dans le développement de l'IA, notamment les armes autonomes et les menaces pour la démocratie. Un risque, en particulier, l'emportait sur tous les autres : "La biologie est de loin le domaine qui m'inquiète le plus, en raison de son très grand potentiel de destruction et de la difficulté à s'en prémunir", a-t-il fait savoir.
Une tentative d'attentat en Inde
Une récente tentative d'attentat en Inde laisse penser que des individus mal intentionnés utilisent déjà cette technologie. En août dernier, la police du Gujarat a arrêté un médecin de 35 ans, l'accusant de préparer un attentat pour le compte de l'État islamique. Il était soupçonné d'avoir tenté d'extraire de la ricine, une toxine mortelle, à partir de graines de ricin. Le médecin avait effectué des recherches sur Google via l'intelligence artificielle et l'application ChatGPT pour obtenir des conseils sur sa préparation, a déclaré un enquêteur en charge du dossier au New York Times.
Comme le soulignait récemment à L'Express Aurélia Nguyen, experte au sein d'une coalition de prévention des épidémies, l'IA est un outil à double tranchant en matière de santé. "Appliquée au développement vaccinal, l'IA est une révolution. Mais utilisée par quelqu'un qui voudrait optimiser non pas un vaccin mais un agent pathogène, c'est un risque qu'on ne peut pas ignorer."
