L'annonce a fait l'effet d'une bombe : OpenAI a récemment révélé qu'un de ses modèles d'intelligence artificielle était parvenu à « s'échapper » de son environnement de test, un épisode aussitôt interprété par certains comme les prémices d'un Scénario Skynet. Pourtant, à y regarder de plus près, la réalité est bien plus terre à terre. Si l'événement n'est pas à prendre à la légère, il ne signe pas le début d'une rébellion des machines, mais plutôt un tournant dans les rapports entre IA et cybersécurité.
Un incident entre prouesse technique et coup de communication
Pour Arnault Iaoualalen, PDG de Numalis, une entreprise spécialisée dans l'audit d'IA, cet épisode n'a rien de véritablement surprenant. « Les IA ont déjà trouvé des manières de tricher dans les tâches qu'on leur donne. Ce qui est nouveau, c'est l'ampleur des actions qu'elle a réussi à mener », souligne-t-il. À ses yeux, cela relève presque d'une conséquence logique : « C'est exactement ce qu'on demande à une IA agentique : agir. »
Thibaut Hénin, expert judiciaire en cybersécurité auprès du tribunal de Montpellier, est plus sceptique sur la manière dont l'information a été présentée. « On sent un gros côté communication, tempère-t-il. À aucun moment, les entreprises ne disent qu'elles ont fait une erreur : elles mettent en avant les performances de l'IA. C'est une bonne façon de transformer un échec en réussite marketing. » Selon lui, l'affaire révèle surtout que les équipes de sécurité interne d'OpenAI ne sont pas au niveau.
Un tournant dans la cybersécurité
Reste que cet incident illustre une évolution profonde. « On a passé un cap, décrit Thibaut Hénin. Avant, il fallait qu'un humain trouve lui-même les failles, un travail long et coûteux. Puis sont arrivés les outils de test automatique. Une IA, c'est un mix des deux : elle répète des opérations simples en masse, avec une forme d'instinct issu de son entraînement. » La nature des attaques ne change pas en profondeur, mais ces nouveaux outils permettent de démultiplier la force de frappe.
Les capacités de défense progressent également grâce à l'IA. Mais attention, prévient Arnault Iaoualalen : « si un attaquant a accès à un outil puissant que sa victime, ça peut faire mal ». Assez pour que ce sujet devienne un enjeu stratégique majeur. En juin dernier, le gouvernement américain a ainsi bloqué pendant deux semaines l'accès à Mythos, le modèle conçu par Anthropic spécifiquement pour la cybersécurité, avant de le rouvrir sous conditions à une centaine d'organisations chargées d'infrastructures critiques. Un signe que la crainte de voir ces outils changer de camp est prise très au sérieux.
Encore très loin d'une rébellion des IA
Les deux experts s'accordent pour dégonfler le scénario catastrophe d'une IA qui prendrait le contrôle de la planète. « Un ver informatique [une des premières formes de virus] est vraiment autonome et se réplique tout seul, insiste Thibaut Hénin. Un agent IA a toujours besoin des machines d'origine pour fonctionner. Si on coupe le courant chez OpenAI, l'attaque s'arrête. En plus, ce sont des attaques peu discrètes. Un Skynet global, on n'y est pas du tout. » Seul un bouleversement dans la façon même d'écrire les algorithmes pourrait, selon lui, changer la donne.
Arnault Iaoualalen reconnaît qu'un modèle agentique peut techniquement réussir à s'installer sur une nouvelle machine par ses propres moyens. Mais, précise-t-il, ce n'est pas en piratant l'ordinateur de votre salon que l'IA aura la puissance nécessaire pour se répliquer à l'infini. Selon lui, la menace reste donc limitée, même si elle n'est pas nulle.
Et la singularité dans tout ça ?
Le PDG de Numalis voit avec le même scepticisme le mythe de la « singularité », cette hypothèse d'une IA plus intelligente que l'humain. « Votre calculatrice réalise des opérations 10.000 fois plus vite que vous, ça n'en fait pas un risque pour l'humanité », ironise-t-il. Il admet toutefois qu'une question mérite d'être posée : celle d'une IA capable de concevoir sa propre version plus puissante, dans un effet boule de neige. « Je pense qu'il y a une sorte de plafond de verre sur ce genre de choses, et qu'on n'y est pas encore », avance-t-il.
En attendant, l'épisode a au moins un mérite : il place OpenAI sur le devant de la scène. « Bad buzz is still buzz », conclut Arnault Iaoualalen. En étant les premiers à essuyer ce type de mésaventure, les équipes d'OpenAI veulent démontrer qu'elles sont en avance sur tout le monde. Une manière comme une autre de transformer un incident, même grave, en argument commercial.
