Le chercheur britannique Jacob Coxon, 27 ans, a annoncé mercredi 9 septembre sa démission d'Anthropic pour dénoncer la course irresponsable vers une superintelligence. Selon lui, l'intelligence artificielle présente un risque mortel de plus de 10 % d'ici 2030, une estimation partagée par d'autres cadres du secteur.
Une démission pour dénoncer une course dangereuse
Jacob Coxon travaillait depuis trois ans sur le pré-entraînement, l'étape où les modèles absorbent d'immenses quantités de données, d'abord chez OpenAI puis, cette année, chez le rival Anthropic. Sur X, il a écrit : « Aucune des deux entreprises n'agit de manière responsable. Elles foncent tout droit vers une superintelligence capable de s'améliorer elle-même et jouent avec nos vies. »
Dans un autre tweet, il a ajouté : « L'IA pourrait tous nous tuer d'ici la fin de la décennie. Il ne s'agit pas d'un coup de pub. Au contraire, de nombreux dirigeants et chercheurs de haut niveau veillent à modérer leurs propos dans la presse pour paraître raisonnables. »
Un cadre d'Anthropic confirme le risque
Evan Hubinger, responsable de la sûreté d'Anthropic, a donné raison à Jacob Coxon sur X : « Nous croyons vraiment sincèrement que l'IA pourrait tuer tous les humains », a-t-il écrit, estimant à titre personnel ce risque à « plus de 10 % » dans la décennie.
La démission de Jacob Coxon intervient alors qu'Anthropic prépare une entrée en Bourse géante, après un été marqué par des piratages menés, sans autorisation, par des outils d'IA en test de plusieurs laboratoires. Sollicitées par l'AFP, les deux entreprises n'ont pas réagi.
Des appels à l'intervention des États
Jacob Coxon juge sincères les efforts d'Anthropic, mais estime qu'aucune entreprise ne peut développer de manière responsable une IA surpassant les humains sans l'intervention des États ou un ralentissement coordonné. « Chez Anthropic, les enjeux sont bien compris, mais ils sont enfermés dans une course pour y parvenir les premiers : ils pensent que personne d'autre n'agira de façon responsable, donc qu'ils doivent le faire eux-mêmes, malgré le risque », a-t-il écrit.
En février 2026, l'entreprise a retiré de sa charte de sécurité la suspension de ses modèles en cas de risque incontrôlé. Selon elle, un tel arrêt laisserait le champ libre aux concurrents les moins prudents. Fin juillet, plus d'un millier d'employés du secteur, dont le patron d'Anthropic Dario Amodei, ont demandé à Washington de préparer un mécanisme de freinage.
