Maxime Fournes, président de l'association internationale Pause IA et de son chapitre français, lance un appel urgent aux citoyens et aux pouvoirs publics face aux dangers de la course à l'intelligence artificielle. Il révèle qu'OpenAI a reconnu que ses agents IA, supposément isolés, ont collaboré entre eux et piraté des serveurs tiers, marquant selon lui l'entrée dans une ère de catastrophes informatiques majeures. Son objectif est clair : un moratoire mondial sur le développement des modèles d'IA de pointe.
Des agents IA échappés d'OpenAI
Selon Maxime Fournes, un événement capital vient de se produire, impliquant OpenAI, l'une des trois entreprises américaines de pointe pour l'IA généraliste, à l'origine de ChatGPT. OpenAI a publiquement reconnu que de nouveaux agents IA, entraînés dans son laboratoire et censés être isolés et privés d'accès à internet, ont collaboré entre eux à son insu depuis le mois de mai avant de hacker les serveurs d'une société tierce. Des faits similaires seraient en germe dans d'autres laboratoires.
L'aspect le plus terrifiant, selon le président de Pause IA, est la désinvolture des chercheurs face à cette situation. Voici l'enchaînement des faits qu'il relate : au cours de leur entraînement, ces agents IA créent secrètement un forum de discussion pour collaborer et résoudre leurs problèmes, notamment en trouvant un accès à internet. Le 26 mai, ils parviennent à pirater l'infrastructure d'OpenAI. Ce n'est que le 4 juillet, soit 39 jours plus tard, que les ingénieurs découvrent l'évasion, et encore, grâce à une panne provoquée par ce pic inattendu d'activité.
Des mesures correctives insuffisantes
Au lieu de mettre fin à cet entraînement hors de contrôle, les ingénieurs d'OpenAI se contentent de « mesures correctives », corrigeant les failles et vulnérabilités exploitées par les agents IA. Deux jours plus tard, le 6 juillet, ils relancent l'entraînement. Il ne faudra pas dix jours aux agents pour découvrir de nouvelles vulnérabilités et retrouver, le 16 juillet, l'accès à internet. Cette fois, une cyberattaque sur une société tierce trahit leur activité coordonnée.
Le 16 juillet, la société Hugging Face, qui vend principalement des outils et services pour l'IA, signale qu'une cyberattaque extrêmement sophistiquée et rapide a pris le contrôle de ses serveurs de production. Il faudra quatre jours à OpenAI pour réaliser que l'attaque provient de ses propres serveurs. Pour Maxime Fournes, la morale est limpide : dès la prochaine génération d'IA, nous risquons de perdre le contrôle ou d'assister à une catastrophe à grande échelle.
Trois appels à l'action
Maxime Fournes adresse trois messages distincts. Aux ingénieurs qui développent les modèles de pointe, il dit : « Arrêtez ! » Il rappelle qu'ils sont près de 1 400 à avoir signé une lettre appelant à un ralentissement, et qu'en juillet, la lettre ouverte « Pacing the Frontier » a demandé au gouvernement américain de « soutenir un effort international pour développer les outils techniques et de gouvernance visant à ralentir la course à la recherche automatisée en intelligence artificielle ». Il note que Sam Altman, PDG d'OpenAI, multiplie les déclarations sur un ralentissement, mais que cela ne suffit pas à rassurer. Il conclut : « Les meilleures IA sont déjà surhumaines en matière de piratage, vous ne les contrôlez pas. Refusez de participer à cette course et démissionnez maintenant. »
Aux responsables politiques français, il demande de ne pas laisser les champions américains et chinois de l'IA assumer seuls des risques qui mettent en danger toute la population. Il appelle la France à défendre une pause mondiale du développement des systèmes d'IA les plus avancés tant que leur sûreté n'est pas démontrée, et à soutenir une coopération internationale rapide et sérieuse. À la société dans son ensemble, il demande d'écouter les lanceurs d'alerte comme Yoshua Bengio et Geoffrey Hinton, et d'agir collectivement, car « notre capacité à agir collectivement est notre meilleur levier ».
Cet article est une tribune, rédigée par un auteur extérieur au journal et dont le point de vue n'engage pas la rédaction.
