L'intelligence artificielle bouleverse tous les usages. Faut-il y voir un danger ou un champ d'opportunités ? Regards croisés entre Mazarine Pingeot, philosophe, et Christine Bost, présidente de la Métropole de Bordeaux.
Une révolution technologique fulgurante
En l'espace de quelques jours, Bordeaux Métropole a accueilli le forum Eurocities, dans le cadre du congrès autour du thème des droits numériques, ainsi que l'Europe et les villes à l'avant-garde de la révolution digitale. Quelques jours plus tard, l'institution accueillait une convention citoyenne étudiante, en partenariat avec la fondation Bordeaux Université, pour réfléchir à comment les IA génératives transforment l'éducation. L'objectif : appréhender les opportunités (autonomie, personnalisation) mais aussi les risques (perte de compétences, raisonnement critique). Au terme de ces échanges, les participants formuleront une liste de recommandations. L'occasion de croiser les regards sur cette révolution qui touche tous les pans de la société, notamment l'enseignement ou la conduite d'une collectivité qui veille au quotidien de 850 000 habitants.
Sommes-nous face à une révolution historique ?
Mazarine Pingeot : Certains comparent l'IA à l'arrivée de l'écriture ou de l'imprimerie, cela bouleverse le rapport à l'écrit et à la diffusion.
Christine Bost : On est en train de vivre une séquence historique et hyper rapide, c'est assez fulgurant. Du jour au lendemain, on voit des utilisations possibles de l'IA dans ce qu'il y a de bon et de moins bon. La technologie va très vite, plus vite que notre capacité à encadrer, organiser, légiférer.
Faut-il s'en méfier ?
M. Pingeot : Ces technologies reposent sur l'utilisateur, l'usage précède nécessairement la réflexion critique et l'encadrement juridique. C'est la grande difficulté et la grande révolution technologique des Gafam, ce sont des entreprises qui fonctionnent sur les utilisateurs. Pour résumer : on contribue nous-mêmes à notre propre perte ! La technologie n'existe pas si on ne l'utilise pas. Elle est facile, intuitive et facilite un maximum de tâches. Comment s'empêcher d'y aller ? C'est là que le politique intervient.
Que peut le politique ?
C. Bost : Le législateur doit d'urgence se pencher sur le sujet et encadrer les choses. À l'échelle qui est la mienne, on est en train de passer de la fracture numérique territoriale – aujourd'hui à peu près résorbée en Gironde – à une nouvelle fracture. Celle-ci est sociale : est-ce que je sais utiliser, est-ce que je peux utiliser, est-ce que je comprends ce que j'utilise ? Comment cela transforme et bouleverse ma situation de citoyen, mes capacités civiques ? Un des défis est de développer la capacité de chacun à savoir utiliser l'outil et ne pas être dominé par celui-ci.
M. Pingeot : La grande difficulté, c'est que l'IA va favoriser les gens qui savent. Elle est géniale quand on sait l'utiliser, comme complément de recherches, quand on sait ce que l'on va chercher. Le risque est qu'elle vienne remplacer la réflexion, et cela pourrait être le cas, puisqu'elle a réponse à tout. Si on ne réfléchit pas à l'utilisation, la réglementation, si nos enfants utilisent l'IA plutôt que leur cerveau, ça va être un désastre. Cela va creuser les inégalités : ceux qui savent vont maximiser leurs compétences, ceux qui ne savent pas vont devenir totalement dépendants. La question de l'autonomie et même de la liberté individuelle va se poser.
Sommes-nous tous vulnérables ?
C. Bost : Au-delà de l'IA, il y a la capacité, toutes générations confondues, d'entretenir un rapport lucide avec l'outil, sans être empêché et sans y être soumis par ignorance. Notre rôle d'acteur local est d'être proche des territoires, des quartiers des habitants et de proposer une médiation numérique au plus près.
M. Pingeot : Il y a un double danger des réseaux sociaux et du numérique en général. Les bulles cognitives, d'abord : sur les différentes plateformes, je ne rencontre plus jamais quelqu'un qui est différent de moi. Ce qui nous arrive est personnalisé, on a l'impression que le monde ressemble à ce que l'on pense. On n'a donc pas de raison de mettre en doute. Ensuite, c'est la fragmentation de l'espace public. Avec les fake news, cette ère de la post-vérité ne va pas s'arranger avec l'IA. Elle n'est pas critique, elle ressort ce qui existe. Si on ne sait pas juger une information sourcée de ce que nous donne l'IA, c'est cela qu'il faut apprendre dans les écoles.
Un enjeu pour l'éducation
C. Bost : Il faut systématiser la formation pour les élèves, mais aussi pour les enseignants, à l'esprit critique au même titre que l'instruction civique. Parmi tous les enjeux que posent l'intelligence artificielle et le numérique, il y a aussi une question démocratique. Il suffit de voir ce qui se passe de l'autre côté de l'Atlantique…
M. Pingeot : Hannah Arendt, qui n'était pas contemporaine de ces technologies, disait : « La liberté d'opinion est une farce si l'information sur les faits n'est pas garantie. » Ça n'a pas pris une ride. Que signifie la liberté d'opinion si elle se fonde sur quelque chose qui n'existe pas ? Ça n'a pas de sens. C'est très dangereux. Je crois au droit et à la réglementation.
Des aspects positifs malgré tout
C. Bost : Bien sûr qu'il y en a. Nous commençons à l'utiliser, nous avons par exemple fait le jumeau numérique du fleuve pour mesurer l'impact du risque inondation. Elle peut être un outil pour réguler le trafic, mieux comprendre les questions d'environnement.
M. Pingeot : Elle est capable d'incontestables performances. Cela va changer le travail, les apprentissages. Gageons que cela se fasse dans le bon sens. Mais l'IA est et doit rester un simple outil. On le voit dans l'imagerie médicale : l'IA permet davantage de précision dans la détection, le diagnostic. Mais il ne faut jamais abandonner l'idée que le seul médecin, c'est l'homme.
