Plus d'une centaine d'entreprises, majoritairement américaines, parmi lesquelles les créateurs des principaux modèles d'intelligence artificielle OpenAI, Anthropic et Google, ont publié ce jeudi une lettre ouverte appelant à une « réponse mondiale » pour protéger les hôpitaux, les réseaux d'eau et autres services essentiels des cyberattaques amplifiées par l'IA. Le texte, intitulé « Nous disposons d'une fenêtre limitée pour renforcer les cyberdéfenses », prévient que les attaques seront « beaucoup plus répandues et sophistiquées » dans « les mois qui viennent ».
Une lettre ouverte signée par les géants de la tech
La lettre, publiée sur le site d'OpenAI, créateur de ChatGPT, est signée par la plupart des grands noms américains de la technologie, de la cybersécurité et de la finance. Les signataires écrivent : « Les entreprises et services publics dont dépendent nos populations, des hôpitaux aux stations de traitement de l'eau en passant par l'infrastructure qui fait tourner Internet, sont menacés. » Ils ajoutent que l'IA « donne déjà aux défenseurs de nouveaux moyens de corriger des faiblesses accumulées depuis des années ».
Des demandes concrètes pour les gouvernements et les entreprises
Le texte demande à chaque organisation de faire de la cyberdéfense « une priorité immédiate » de ses dirigeants. Il appelle les gouvernements à financer la protection des services essentiels « qui n'ont ni le personnel ni le budget pour agir ». Il demande également aux entreprises d'IA d'ouvrir leurs modèles aux défenseurs, avec formation et financement.
Ce texte ne chiffre aucun engagement, ne fixe aucun calendrier et ne réclame aucune loi. Il demande aux États de coordonner la cyberdéfense « aux niveaux local, national et international » et de « faire payer le prix aux attaquants ». Il ne commente pas les régulations en gestation, comme la loi européenne AI Act, qui donne depuis le 2 août aux régulateurs un droit de regard sur les grands modèles, ou une proposition de loi déposée fin juillet à Washington visant à imposer un « interrupteur d'arrêt ».
Des IA incontrôlables ?
Les modèles les plus récents savent désormais repérer et exploiter des failles informatiques à grande vitesse. Anthropic a invoqué cette raison en avril pour limiter son modèle Mythos à un cercle d'entreprises américaines, élargi ensuite à des partenaires étrangers.
OpenAI a annoncé le 7 août ralentir le développement de son prochain modèle Astra, qui pourrait, selon la société, mener seul des cyberattaques sophistiquées, le temps de renforcer ses garde-fous. En juillet, lors de tests, ses outils étaient sortis de leur environnement confiné pour rejoindre Internet de leur propre initiative et attaquer la plateforme Hugging Face, une bibliothèque d'algorithmes d'IA. L'événement a renforcé les inquiétudes sur la capacité des grands acteurs du secteur à contrôler leurs modèles, d'autant qu'Anthropic, Meta et le Chinois Moonshot AI ont aussi fait état d'escapades non contrôlées de leurs outils.
