Le pape Léon XIV a publié lundi au Vatican l'encyclique "Magnifica Humanitas", un texte de 130 pages appelant à réguler l'intelligence artificielle (IA) pour préserver la dignité humaine. Le pontife américain y dénonce la délégation de décisions létales à la technologie et fustige les "nouvelles formes d'esclavage" liées à l'extraction des terres rares.
Un appel à désarmer l'intelligence artificielle
Dans son premier document majeur, le pape Léon XIV lance un puissant appel à encadrer et réguler les algorithmes. Il souligne que l'IA ne peut "être considérée comme moralement neutre" et qu'il convient de la "désarmer" pour "l'empêcher de dominer l'humain". Le pape insiste sur la nécessité d'un code éthique commun sur l'IA ainsi que sur le rôle crucial de l'éducation pour apprendre à en maîtriser les risques.
Dénonciation des monopoles technologiques
Le pape regrette que "le contrôle des plateformes, des infrastructures, des données et de la puissance de calcul n'appartient pas aux États, mais à de grands acteurs économiques et technologiques" qui "fixent les conditions d'accès, les règles de visibilité et les possibilités de participation". Selon les Nations unies, l'IA pourrait peser jusqu'à 4 800 milliards de dollars d'ici 2033, concentrant ses bénéfices entre les mains d'un nombre limité d'acteurs.
Nouvelles formes d'esclavage
Citant Platon, JRR Tolkien, Picasso ou encore Beethoven, le pape fustige "les nouvelles formes d'esclavage" nées pour extraire les ressources nécessaires à l'IA. Il dénonce : "Dans certaines régions du monde, des adolescents et des enfants travaillent dans des conditions dangereuses au broyage des matériaux dont on tire les terres rares. Des corps marqués, mutilés, usés pour que le flux de calcul ne s'interrompe pas." Il appelle à "des solutions technologiques plus durables afin de réduire l'impact sur l'environnement".
Risque de déshumanisation
Au-delà des enjeux technologiques, le pape s'inquiète d'un risque de "déshumanisation", mettant en garde contre une vision de l'humain réduit à ses performances ou à des données exploitées par les machines. Depuis son élection il y a un an, le premier pape nord-américain de l'Histoire a multiplié les avertissements face aux dangers de l'IA, en soulignant la nécessité d'une "alphabétisation numérique".
Critique de la guerre juste
Abordant la crise du multilatéralisme, le chef de l'Église catholique renouvelle sa condamnation de l'utilisation de l'IA dans le domaine militaire. "Aucun algorithme ne peut rendre la guerre moralement acceptable", écrit-il. Il réaffirme "le dépassement de la théorie de la guerre juste trop souvent invoquée pour justifier n'importe quelle guerre", un concept défendu notamment par l'administration américaine de Donald Trump, regrettant que "l'humanité (soit) en train de glisser vers une culture violente de la puissance" qui normalise la guerre comme un "instrument de politique internationale".
Un manifeste dans la continuité de l'enseignement social de l'Église
Cette encyclique a été signée le 15 mai, date du 135e anniversaire de Rerum Novarum (1891), encyclique de Léon XIII qui a posé les fondements de la doctrine sociale de l'Église face à la révolution industrielle. "Magnifica Humanitas" parachève plusieurs années de réflexion par l'Église sur les technologies liées à l'IA. Dès 2020, le Saint-Siège avait lancé, avec des entreprises du numérique et des institutions académiques, l'"Appel de Rome pour une éthique de l'IA", plaidant pour un développement des technologies respectueux de la dignité humaine.
