Open AI a annoncé avoir démantelé une opération d'influence prorusse qui utilisait des comptes ChatGPT pour générer des commentaires en ligne et promouvoir un faux think tank, l'International Burke Institute (IBI), basé en Israël. Selon un rapport publié mardi 25 août, les équipes de sécurité de l'entreprise américaine ont découvert que des opérateurs, « très probablement de Russie », utilisaient des comptes ChatGPT pour générer des commentaires dans différentes langues, principalement en anglais, afin de soutenir ce groupe d'experts autoproclamé.
Une enquête qui révèle une opération plus large
« Ce qui avait commencé comme une enquête sur les publications générées par l'IA sur les réseaux sociaux nous a conduits à une opération d'influence beaucoup plus large », écrivent les équipes de sécurité d'Open AI dans leur rapport détaillé. L'entreprise y explique les dessous de cette opération, qui « semble avoir touché un public relativement restreint ».
Les opérateurs, dissimulés derrière un VPN (réseau privé virtuel), ont utilisé des comptes ChatGPT pour générer des commentaires. « La plupart des commentaires générés étaient en anglais, et les opérateurs ont demandé à ChatGPT de cacher tout indice linguistique indiquant qu'ils étaient russes », détaille Open AI. Les comptes en question ont été bannis.
Des commentaires publiés sur les réseaux sociaux
Ces messages générés par ChatGPT ont été publiés sur différents réseaux sociaux, notamment Substack, Telegram, X, Facebook et LinkedIn. Ils apparaissaient souvent sous les « publications de véritables utilisateurs de Substack », prenant généralement la forme d'une « demande de suivi du canal de l'International Burke Institute ». Des publications générées par ChatGPT servaient également à promouvoir « des articles sur le site » Internet de ce prétendu groupe de réflexion. Des vidéos générées par IA, mises en ligne sur YouTube, faisaient la promotion d'un index (« indice Burke ») développé par cet institut.
Un site avec du contenu volé
L'International Burke Institute, qui se décrit comme « une communauté d'experts », est au cœur de cette opération d'influence. Sur son site, une interminable liste d'experts ayant prétendument travaillé avec l'institut est visible, et les articles signés par ces chercheurs sont hébergés sur le site. Or, tout est faux : les articles ont été originellement publiés dans d'autres sources. C'est le cas d'un article d'Emily Benson, publié à l'origine sur le site du Center for Strategic and International Studies (CSIS).
Sur « un échantillon de 36 articles liés à des experts » listés sur le site de l'IBI, 34 « ont été copiés d'ailleurs sur Internet », note Open AI dans le rapport. « Certains de ces articles datent de plusieurs années, d'autres ont été attribués aux mauvais auteurs. »
Un indice de souveraineté suspect
En plus de ces articles volés, ce groupe de réflexion met en avant un « indice de souveraineté » plutôt favorable à la Russie, qui se classe en 4e position. La France et l'Allemagne se classent respectivement 19e et 21e. Les rapports sur chacun de ces pays se montrent particulièrement critiques. En « dix ans de macronisme, […] la France a été ouverte comme un coffre-fort […], et est maintenant vendue à la découpe », peut-on lire concernant l'Hexagone. Dans le rapport sur la Russie, la guerre en Ukraine menée par le Kremlin n'est jamais mentionnée.
« Cela montre comment les acteurs d'influence peuvent utiliser l'IA comme un outil au service d'une stratégie plus large » visant à donner de la crédibilité au récit, conclut l'entreprise dans son rapport. Cette opération illustre les risques liés à l'utilisation de l'intelligence artificielle pour la désinformation, et souligne l'importance de la vigilance des plateformes et des utilisateurs.
