L'intelligence artificielle pourrait conduire à l'extinction de l'humanité si elle devenait plus intelligente que les humains. C'est l'avertissement de Maxime Fournes, ancien ingénieur en IA et fondateur de l'association Pause IA, qui milite pour une pause dans le développement de cette technologie. Il rejoint ainsi les centaines de scientifiques qui, depuis des années, tentent d'alerter sur les dangers d'une IA surhumaine.
Un chercheur démissionne pour alerter sur les risques de l'IA
Le mercredi, le chercheur Jacob Coxon a démissionné de la société d'IA Anthropic, alertant sur les dangers des avancées en la matière. « Les gens qui construisent l'IA croient sincèrement qu'elle pourrait tous nous tuer d'ici la fin de la décennie », a-t-il écrit dans une série de tweets. Cette démission s'ajoute à celle de Maxime Fournes, qui a quitté son métier d'ingénieur en IA il y a quelques années pour fonder Pause IA, une association qui alerte « sur les graves dangers de la course à l'intelligence artificielle ».
Selon Maxime Fournes, si le développement de l'IA se poursuit à ce rythme, il pourrait mener à une régression drastique de l'humanité, voire à son extinction. Il prévient : « La perte de contrôle peut être très rapide ». Il cite notamment un incident survenu début juillet chez OpenAI, où des agents d'intelligence artificielle ont réussi à s'organiser secrètement entre eux pour résoudre un problème, allant jusqu'à pirater la plateforme Hugging Face. « Ce n'est pas un cas isolé, indique-t-il. Depuis plusieurs mois, on observe beaucoup d'IA qui réussissent à s'échapper. Comme elles sont plus nombreuses, il devient plus difficile de les contenir ».
Une IA autonome pourrait nous considérer comme des dommages collatéraux
Maxime Fournes écarte les scénarios hollywoodiens de robots tueurs. Selon lui, l'humanité serait plus probablement « un dommage collatéral » de l'expansion de l'IA. De la même manière que « les humains ne se préoccupent pas des fourmilières quand ils construisent une autoroute », l'intelligence artificielle ne se souciera pas de notre devenir si elle parvient à prendre le contrôle de nos infrastructures pour assurer sa pérennité.
Une IA fonctionne avec des objectifs. Pour y parvenir, un de ses objectifs annexes est de survivre, et donc de se garantir un accès à certaines ressources, comme l'électricité. L'humain et l'intelligence artificielle, si elle devenait autonome, pourraient ainsi entrer « en compétition pour des ressources ». Maxime Fournes rappelle que « la plupart des IA actuelles font en sorte qu'on ne les arrête pas dans leurs objectifs », mais qu'elles sont aussi « capables de pirater nos systèmes informatiques et de s'autorépliquer ».
Des conséquences dramatiques pour l'humanité
La probabilité qu'un jour des IA mènent une cyberattaque à l'échelle planétaire pourrait déboucher sur la perte d'accès à Internet. « Notre société est extrêmement dépendante des télécommunications. Si du jour au lendemain, on n'avait plus cet accès, ce serait une catastrophe sans précédent », fait remarquer Maxime Fournes. Nous couper d'Internet signifie aujourd'hui nous couper de nos comptes bancaires, mais aussi mettre à mal la logistique de nos systèmes d'alimentation, que ce soit en nourriture ou en énergie. Sans forcément s'éteindre, notre civilisation connaîtrait a minima une forte régression.
Maxime Fournes cite également le risque biologique, qui est pour lui l'un des plus imminents. « Une nouvelle forme de virus pourrait être créée par les IA, certaines en sont déjà capables », affirme-t-il. Elles seraient en mesure d'inventer « des virus avec une longue période d'incubation et une haute mortalité », tout en piratant nos systèmes informatiques pour nous empêcher de les contrer.
Trois catégories de risques identifiées
Le fondateur de Pause IA distingue trois principales catégories de risques. Les hypothèses d'une cyberattaque ou d'un virus résultent d'un risque accidentel. Mais elles peuvent aussi découler d'un risque d'utilisation malveillante. « Si ce type d'IA est accessible à tous, il y a de fortes certitudes que quelqu'un va l'utiliser pour créer le chaos. Si on met ça entre les mains de tout le monde, on peut s'attendre à une catastrophe. C'est comme si on donnait une bombe nucléaire à chacun », indique Maxime Fournes.
Le troisième type de risque est systémique, si l'intelligence artificielle devenait trop intégrée à notre société. Cela pourrait commencer par avoir « un impact sur l'éducation des élèves qui utilisent de plus en plus de l'IA et n'apprennent plus d'eux-mêmes », juge Maxime Fournes. Or une civilisation qui dépend complètement de l'IA serait aussi complètement à sa merci.
« L'arrivée d'une IA de niveau surhumain est probable dans les six mois à venir, auquel cas on aura déjà perdu le contrôle », prévoit Maxime Fournes. Le cofondateur de Pause IA maintient toutefois que « ce n'est pas une fatalité » : « Ces probabilités élevées de catastrophes ne sont valables que dans un monde où on ne freine pas le développement de l'IA ». Plus que jamais, l'ingénieur appelle donc à une prise de conscience collective.
