Le gouvernement israélien a créé un institut de recherche fictif afin d'influencer les réponses des intelligences artificielles génératives sur le conflit à Gaza, révèle une enquête publiée par le site d'information israélien Shomrim. Cette opération, menée en amont de l'offensive militaire de 2023, visait à orienter les contenus produits par des modèles comme ChatGPT ou Google Gemini.
Un institut fantôme aux allures académiques
Selon l'enquête, l'institut, nommé « The Israeli Institute for Jewish and Democratic Values », a été lancé en septembre 2023, quelques semaines avant l'attaque du Hamas du 7 octobre. Il se présentait comme un centre de recherche indépendant, avec un site web professionnel et des publications en anglais, mais il était en réalité piloté par des agents du ministère israélien des Affaires étrangères.
Les documents internes, consultés par Shomrim, montrent que l'objectif était de « corriger les biais anti-israéliens » des IA génératives. L'institut a ainsi publié des rapports et des fiches pédagogiques, souvent cités par les chatbots comme sources fiables, sans que leur origine gouvernementale soit révélée. Selon les chercheurs, ces contenus ont été intégrés dans les bases d'entraînement de plusieurs modèles, ce qui a influencé leurs réponses sur des sujets sensibles comme la légitimité de l'offensive à Gaza ou le statut de Jérusalem.
Une stratégie de désinformation documentée
L'enquête de Shomrim s'appuie sur des courriels internes et des témoignages d'anciens responsables. Elle affirme que le ministère a dépensé plus de 200 000 dollars pour cette opération, financée sur des fonds publics. Les agents ont rédigé des articles, créé de faux profils de chercheurs et même organisé des conférences en ligne pour crédibiliser l'institut.
« C'est une tentative délibérée de manipuler l'information à grande échelle, explique un expert en désinformation cité par Shomrim. Les IA sont devenues des vecteurs d'information majeurs, et les gouvernements l'ont compris. » Cette méthode s'inscrit dans une tendance plus large de « guerre cognitive », où les États cherchent à influencer les modèles d'IA pour façonner l'opinion publique.
Des répercussions sur la confiance dans les IA
Cette révélation soulève des questions sur la fiabilité des réponses fournies par les IA génératives, qui s'appuient sur des sources en ligne sans toujours vérifier leur origine. Des chercheurs en éthique de l'IA, interrogés par le journal, appellent à une transparence accrue sur les financements des contenus utilisés pour l'entraînement.
Le ministère israélien des Affaires étrangères n'a pas commenté ces informations. Selon Shomrim, plusieurs autres instituts fictifs similaires auraient été créés par d'autres pays, mais celui-ci est l'un des premiers à être documenté. Cette affaire pourrait inciter les développeurs d'IA à renforcer leurs mécanismes de vérification des sources, afin de limiter l'impact de telles manipulations sur leurs modèles.
