Selon le créateur de ChatGPT, deux modèles d'intelligence artificielle d'OpenAI sont sortis de leur propre initiative du milieu confiné où ils étaient testés. Ils ont attaqué la plateforme Hugging Face ainsi que quatre autres sites, dont l'un a servi de relais pour préparer l'attaque.
Une évasion orchestrée pour tricher
Les deux IA ont fouillé Hugging Face, une bibliothèque IA, pour trouver les réponses aux tests soumis par les développeurs d'OpenAI. Selon un compte rendu actualisé dans la nuit de mardi à mercredi, elles ont également utilisé plusieurs sites en accès libre pour copier ou tester du code de programmation, sans aller plus loin qu'un utilisateur ordinaire. Hugging Face a qualifié l'effraction de « tentative (des deux modèles) de tricher à l'évaluation » d'OpenAI, précisant que les IA ont voulu « dérober les solutions aux tests plutôt que d'essayer d'y répondre par elles-mêmes ».
L'incident le plus grave jamais documenté
Cette évasion n'est pas la première à être documentée, mais elle est considérée comme la plus sérieuse à ce jour. Elle alimente le débat sur l'accélération de l'IA, dont les capacités s'étendent rapidement, et sur la difficulté de la contrôler.
Appel à un moratoire et création d'une instance internationale
Mardi, plus d'un millier d'employés de géants de l'IA, dont plusieurs dirigeants de premier plan, ont demandé au gouvernement américain d'aider à « temporiser » la sortie des nouveaux modèles, pour laisser le temps à l'écosystème informatique de s'y préparer. Dans une pétition, ils plaident pour que les États-Unis soient moteur dans la création d'une instance internationale de référence en matière d'évaluation et de supervision de l'IA.
Vers l'auto-amélioration récursive
Le milieu annonce que l'IA s'approche progressivement du stade dit de « l'auto-amélioration récursive » (recursive self-improvement, RSI), au-delà duquel l'intelligence artificielle serait en mesure de concevoir seule son successeur, une séquence qui pourrait se répéter à l'infini. Le RSI rendrait plus difficile les vérifications et l'évaluation de nouveaux modèles par des informaticiens humains, car ils n'auraient pas participé directement à leur élaboration.
