« Personne, sur son lit de mort, ne regrettera de ne pas avoir assez scrollé sur Instagram, ni assez prompté ChatGPT. » Bien vu ! Après le moment de fascination face aux capacités bluffantes des intelligences artificielles (IA) dites génératives – les ChatGPT, Claude et autres Gemini –, voici venue la période du doute, voire de la panique, concernant la vitesse de propagation de ces nouveaux outils et leurs effets délétères sur notre société et même notre civilisation. Après les essais stimulants d’Anne Alombert et de Bruno Patino, deux nouveaux ouvrages tirent la sonnette d’alarme : « IA, le grand enfumage » de Lou Welgryn et Théo Alves Da Costa (Payot), dont est tirée la citation ci-dessus ; et « le Péril IA » de Gilles Babinet (Le Passeur).
Loin d’être technophobes
Loin d’être technophobes, les auteurs sont tous les trois experts du monde de la tech : Gilles Babinet, entrepreneur autodidacte, a coprésidé le Conseil national du Numérique avant de devenir Champion Digital de la France auprès de la Commission européenne, puis président de la mission Café IA, qui orchestre la médiation populaire sur l’intelligence artificielle dans tout le pays. Lou Welgryn et Théo Alves Da Costa, eux, animent l’association Data for Good, mettant à disposition l’expertise numérique citoyenne au service de la justice sociale et environnementale, et de la protection de nos démocraties.
Leurs deux livres dissèquent la manière dont une demi-douzaine de multimilliardaires de la tech imposent à la planète une marche forcée vers un monde tout-IA, qui transforme radicalement nos manières de travailler, d’apprendre, de consommer, de nous informer et nous distraire, d’entrer en relation les uns avec les autres… Leurs auteurs chroniquent les bouleversements du monde du travail, les implantations à grande échelle de « centres de données » prédateurs de ressources, les usages militaires dépourvus d’éthique, et l’ubiquité de robots conversationnels anthropomorphes, qui se font passer pour votre meilleur ami, afin de mieux vous manipuler ou piller vos données.
Déconstruire les mythes de l’IA
Mais l’intérêt principal de ces analyses est de montrer à quel point les effets jugés indésirables de cette nouvelle génération d’IA, loin de constituer des « bugs » accidentels, résultent en réalité de stratégies de conquête savamment orchestrées par une poignée de leaders industriels, prêts à tout pour gagner cette course économique planétaire et atteindre les premiers le Graal d’une IA générale dont les capacités surpasseraient celle de l’humain.
« Le grand enfumage » a le mérite de déconstruire méthodiquement les mythes véhiculés par les idéologues technos libertariens de la Silicon Valley :
- Non, l’IA n’est pas « magique ». C’est un « gâteau » technologique complexe et coûteux, qui profite à une poignée très concentrée d’entreprises valorisées des centaines de milliards de dollars. Énergie, métaux, eau et terres alimentent un oligopole industriel de l’IA qui repose sur cinq couches imbriquées : puces, centres de données, données, modèles et applications logicielles.
- Non, les nations ne sont pas condamnées à gagner cette course ou à disparaître. Cette compétition sur les grands modèles d’IA génératives, initiée par l’OpenAI de Sam Altman, a généré une peur de rater la nouvelle frontière de l’innovation qui a contaminé les États, au détriment d’une réflexion sur l’indispensable réglementation de ces technologies.
- Non, l’IA ne résoudra pas la crise environnementale. Elle pourrait au contraire contribuer à l’aggraver via les conflits d’usage entre machines et Hommes sur l’électricité et sur l’eau, le recours aux énergies fossiles, et l’artificialisation des terres.
- Non, l’IA ne sera pas toujours là pour vous. Ses gains de productivité sont surestimés, le « temps libéré » constitue souvent une fausse promesse. Et son usage risque, au contraire, d’atrophier nos capacités cognitives et d’exercer sur nous une dangereuse emprise psychologique.
- Non, l’IA n’est pas un outil neutre. Elle embarque une idéologie aux antipodes de la philosophie progressiste européenne. Une sacralisation du QI comme mesure exclusive de l’intelligence, de l’efficacité, de l’optimisation, de la performance, au détriment de l’intelligence émotionnelle et du souci du collectif.
La partie analytique de l’ouvrage est plus convaincante que celle qui passe en revue les pistes de solution – refuser, résister, reprendre le pouvoir – dont certaines relèvent peut-être d’une certaine utopie militante.
Résoudre un dilemme anthropologique
Quant à l’essai de Gilles Babinet, il aborde le sujet en termes plus philosophiques. Lui qui a longtemps été « techno-optimiste », et vanté internet comme un facteur d’émancipation, se montre à présent beaucoup plus sceptique. Il est même prêt à imputer en partie à « l’accélérationnisme » technologique de ces dernières années, la montée d’un mal-être qui touche plus particulièrement les jeunes générations, et le risque d’une grave fracture sociale.
L’auteur passe en revue les risques déjà visibles d’une subordination progressive aux IA : prolifération de contenus trompeurs, biais dans les systèmes décisionnels, nouvelles failles de cybersécurité, dépendance cognitive et économique, et en fin de compte « mésalignement » de ces programmes avec les valeurs humanistes qui fondent nos démocraties. Aussi réinscrit-il l’IA dans « une réflexion plus profonde sur ce que signifie être humain ». Pour lui, l’enjeu véritable n’est pas tant l’avènement d’une « super intelligence », mais la transformation anthropologique engendrée par la pénétration des IA dans tous les compartiments de notre existence.
D’où un choix, qu’il juge imminent et définitif : soit cheminer vers « une assimilation à l’IA » - prédictive, calculatoire, optimisatrice. Soit opter pour « une divergence », afin de renouer avec ce qui nous constitue profondément : « l’être symbolique qui s’est formé au cours de millions d’années d’évolution ».
L’auteur dénonce l’avenir désenchanté - individualiste, égotique et finalement aliénant - projeté par les leaders de l’IA. Et propose, au contraire, d’« utiliser la puissance de calcul pour libérer notre attention, afin que nous puissions enfin accorder à la nature et à la vie cette valeur archétypale, romantique et poétique, que nous avons niée au profit des seuls utilitarismes, consumérismes et quêtes de pouvoir ». Une alternative qui suppose, notamment de « revaloriser les pratiques qui réactivent le sensible : les arts, les rituels, le rapport au vivant, l’attention, la lenteur. » Une préconisation que ne désavoueraient par les membres de Data for Good.
