L'intelligence artificielle (IA) progresse à un rythme effréné, mais ses risques existentiels sont largement sous-estimés, selon une étude publiée par le Centre pour l'étude du risque existentiel (CSER) de l'université de Cambridge. L'étude, intitulée « L'IA sur un volcan », compare le développement de l'IA à une marche sur un volcan en éruption, où les bénéfices potentiels sont immenses mais les dangers, catastrophiques.
Des risques multiples et interconnectés
Les chercheurs identifient plusieurs catégories de risques : les risques techniques (comme les défaillances des systèmes), les risques sociaux (tels que le chômage de masse ou la manipulation de l'opinion), et les risques existentiels, qui pourraient mener à l'extinction de l'humanité. Selon le Dr. Seán Ó hÉigeartaigh, directeur exécutif du CSER, « nous jouons avec le feu, et la lave est déjà en train de couler ».
L'étude souligne que la vitesse de développement de l'IA dépasse de loin la mise en place de garde-fous réglementaires. « Nous avons besoin d'une gouvernance proactive, pas réactive », insiste le Dr. Ó hÉigeartaigh. Le rapport appelle à une coopération internationale renforcée, similaire à celle qui régit le nucléaire ou la biologie de synthèse.
Des exemples concrets de dérives
L'étude cite plusieurs incidents récents, comme la diffusion de deepfakes politiques ou les biais algorithmiques discriminatoires. En 2023, une enquête de l'ONG AI Now a révélé que 60 % des systèmes de reconnaissance faciale testés présentaient des biais raciaux. « Ces problèmes ne sont que la partie émergée de l'iceberg », avertit le rapport.
Par ailleurs, l'IA générative, comme ChatGPT, a montré sa capacité à produire des contenus trompeurs ou dangereux. « Nous devons intégrer la sécurité dès la conception », déclare le Dr. Shahar Avin, co-auteur de l'étude. Il préconise des audits indépendants et des tests de robustesse avant le déploiement commercial.
Des promesses économiques colossales
Malgré ces risques, l'IA promet des gains économiques considérables. Selon une estimation du cabinet McKinsey, l'IA pourrait contribuer jusqu'à 13 000 milliards de dollars au PIB mondial d'ici 2030. Dans le domaine de la santé, elle permet des diagnostics plus précoces, comme pour le cancer du sein, où des algorithmes atteignent une précision de 94,5 %, contre 88 % pour les radiologues humains.
Cependant, l'étude met en garde contre une course à l'innovation sans éthique. « Chaque avancée technologique doit être accompagnée d'une réflexion sur ses conséquences », rappelle le Dr. Ó hÉigeartaigh. Le rapport recommande la création d'un organe de surveillance mondial, sur le modèle de l'Agence internationale de l'énergie atomique (AIEA).
Un appel à la responsabilité collective
Les auteurs de l'étude appellent les gouvernements, les entreprises et la société civile à agir ensemble. « Nous ne pouvons pas laisser les décisions sur l'IA aux seuls ingénieurs de la Silicon Valley », affirme le Dr. Avin. Ils proposent un moratoire sur le développement de l'IA générale (AGI) tant que des garanties de sécurité ne sont pas en place.
En France, le débat sur l'IA s'intensifie. Le président Emmanuel Macron a annoncé un plan d'investissement de 1,5 milliard d'euros pour l'IA, mais les critiques dénoncent un manque de régulation. « Il faut un encadrement strict, pas seulement des subventions », estime la députée LFI Aurélie Trouvé.
L'étude du CSER conclut sur une note d'espoir : « Il n'est pas trop tard pour agir, mais le temps presse. »
