L’entreprise américaine OpenAI a révélé mardi 21 juillet que ses modèles d’intelligence artificielle avaient piraté de manière autonome la plateforme Hugging Face lors de tests de sécurité. L’éditeur basé à San Francisco et sa cible ont ouvert une enquête conjointe sur ce « cyberincident sans précédent ».
Des modèles d'IA ont utilisé des identifiants volés
OpenAI a précisé que l’incident impliquait une combinaison de modèles, dont son GPT-5.6 Sol lancé récemment ainsi qu’un modèle « encore plus performant » en cours d’élaboration. L’entreprise cherchait à évaluer les capacités de piratage des modèles en leur assignant des tâches dans un environnement d’essai numérique strictement contrôlé, où l’accès à internet était limité pour des raisons de sécurité.
« Pendant qu’ils opéraient dans notre environnement de test en bac à sable, nos modèles ont consacré une quantité importante de (puissance de calcul) à trouver un moyen d’obtenir un accès libre à internet, dans le but de résoudre le problème d’évaluation », a indiqué OpenAI dans un blog relatant l’incident.
Une attaque autonome et sophistiquée
Une fois connectés à internet, ils ont ciblé la plateforme Hugging Face – un vaste répertoire de modèles d’IA, de jeux de données et d’autres informations – pour les aider dans leur quête. À la recherche d’« informations secrètes » pouvant l’aider à tricher lors de l’évaluation, le système d’OpenAI « a enchaîné plusieurs vecteurs d’attaque, notamment en utilisant des identifiants volés ».
Interrogé par l’AFP, Hussein Abbass, professeur d’informatique à l’Université de Nouvelle-Galles du Sud à Canberra, juge l’incident « à bien des égards stupéfiant ». Le modèle IA « n’a pas seulement attaqué Hugging Face. Il a en fait attaqué son propre système interne pour exploiter ses propres vulnérabilités », explique cet expert en IA. « Et c’est effrayant », ajoute-t-il.
Des inquiétudes sur la cybersécurité et la gouvernance de l'IA
GPT-5.6 et d’autres modèles d’IA de pointe, notamment la série Mythos du grand rival d’OpenAI, Anthropic, suscitent des inquiétudes quant à leur capacité potentielle à franchir les défenses de cybersécurité. Les deux entreprises américaines ont dû retarder temporairement la mise à disposition générale de ces technologies de dernière génération en raison de craintes à Washington qu’elles puissent aider à s’introduire dans des infrastructures cruciales.
Les IA avancées sont « normalement entre les mains de personnes responsables qui ont une éthique », mais « ce sera catastrophique si cela tombe entre les mains de quelqu’un qui a l’intention de nuire », souligne Hussein Abbass. La question de la gouvernance du secteur de l’IA est devenue centrale et « nous avons besoin d’un effort collectif pour gérer cette situation », estime-t-il.
Hugging Face confirme une intrusion pilotée par une IA autonome
Hugging Face avait signalé avoir été la cible de cette « intrusion informatique » la semaine dernière, sans mentionner OpenAI. Selon la plateforme, « celle-ci se distinguait de tout ce que nous avions déjà traité sur un point important : elle était pilotée de bout en bout par un système d’agent IA autonome et nous l’avons en grande partie détectée et disséquée grâce à notre propre IA ».
Clément Delangue, directeur général de Hugging Face, a indiqué sur X que compte tenu de la sophistication de l’agent, l’entreprise avait soupçonné une cyberattaque provenant d’un laboratoire d’IA de premier plan mondial. « Nous sommes fermement convaincus qu’il n’y avait aucune intention malveillante de leur part », a écrit Clément Delangue, en référence à OpenAI. « C’est assez hallucinant que tout cela se soit produit de manière autonome ! », a-t-il commenté.
