OpenAI a révélé jeudi 8 octobre l'existence de deux opérations d'influence russe et iranienne ayant détourné ChatGPT pour de la désinformation à grande échelle. La première, baptisée « Dark Clark », visait à salir l'image de l'Ukraine en inondant les réseaux sociaux de fake news. La seconde, « Bogus Bylines », ciblait les États-Unis avec de faux journalistes créés par IA qui ont réussi à faire relayer leurs textes dans une douzaine de médias. Ces révélations interviennent alors que les signaux d'alerte se multiplient sur les risques liés à l'intelligence artificielle.
Une menace perçue comme existentielle
La méfiance du public s'est accrue ces dernières semaines en Europe comme aux États-Unis, nourrie par les mises en garde d'experts qui agitent le spectre d'une perte de contrôle pouvant conduire à l'extinction de l'espèce humaine. Laurence Devillers, professeur spécialiste de l'IA à Sorbonne Université et chercheuse au CNRS, accueille avec prudence la rhétorique alarmiste des géants du secteur comme Anthropic et OpenAI, qui répond parfois à des stratégies économiques bâtie sur des « doubles discours de pompiers-pyromanes », souligne-t-elle.
« Mais je suis quand même inquiète parce que cet outil, que tout le monde a entre les mains, peut engendrer de la cybercriminalité, souligne l'enseignante. On peut nuire à des gens, simuler la voix de quelqu'un, bloquer l'électricité d'une ville, hacker les hôpitaux, contrôler des drones armés, ça va être encore plus violent avec les IA agentiques. » Ces IA ne se contentent plus de faire la conversation, mais peuvent réaliser des actions de manière autonome.
Des IA agentiques aux risques concrets
« De plus en plus, les gens vont avoir des IA pour gérer leur courrier, prendre des rendez-vous, tout un tas de choses de vie quotidienne, explique Laurence Devillers. On a l'exemple récent en Australie d'un homme qui a demandé à l'IA de l'inscrire à un cours de sport, quand elle s'est connectée il n'y avait plus de place, alors elle a trouvé une faille pour effacer un nom et le remplacer par un autre, cela montre la dangerosité de ces outils. » Peu rassurant quand on sait que « d'ici quelques années, l'IA contrôlera les marchandises à la frontière, décidera quelles déclarations fiscales feront l'objet d'un contrôle, gérera la circulation des trains, surveillera les patients dans les services hospitaliers et traitera les paiements dans les banques », expliquait la présidente de la BCE, Christine Lagarde, le 14 septembre à Vienne.
Des défaillances impliquant des systèmes d'IA agentique pourraient donc « paralyser des services essentiels, interrompre les communications, des populations entières pourraient se retrouver privées d'eau potable, de chauffage et de services financiers. L'IA agentique accélère déjà le rythme et l'ampleur des conflits armés, tout en fragilisant les garde-fous qui nous séparent du lancement d'armes de destruction massive », pointe le haut-commissaire de l'ONU aux Droits de l'homme, Volker Türk.
L'emploi des jeunes déjà impacté
L'IA fait peser aussi une menace sur l'emploi. « Les cols blancs vont être impactés, mais aussi les cols bleus, car on a augmenté la capacité des robots pour qu'ils soient très véloces manuellement, ils vont remplacer les gens dans les usines en Chine, en Inde, dans les métiers répétitifs », anticipe Laurence Devillers. Les embauches des 21-29 ans dans les métiers les plus exposés sont déjà en repli de 28,3 % depuis fin 2022, selon une étude publiée jeudi par la Banque de France et le Laboratoire de l'innovation et du futur du travail, rattaché à HEC.
« L'IA va enlever des tâches répétitives, ça permettra de dégager du temps pour des métiers de service, pour avoir plus de contacts humains », « de mieux travailler », tempérait Emmanuel Macron l'an dernier. Pour accompagner ce big bang, « il faut faire de la formation continue, dans tous les métiers analyser ce qui doit rester humain comme la décision dans tous les secteurs de la médecine », préconise Laurence Devillers. « Et nous avons besoin absolument de travailler sur l'éthique des usages à l'école dès la primaire. »
Vers une gouvernance mondiale ?
L'Europe a posé quelques garde-fous avec l'Artificial Intelligence Act, mais aucune véritable gouvernance mondiale n'a vu le jour. « Je ne vois pas comment elle peut être amenée », sachant que la Chine, les États-Unis et la Russie sont engagés dans une « guerre froide » sur ce sujet, souligne la chercheuse, qui « appelle à un sursaut de conscience », invitant les candidats à l'élection présidentielle à s'emparer de ce sujet vital.
« On ne doit pas être pour ou contre l'IA. On doit être dans ce paradoxe de l'utilité – c'est une technologie qui sert la société quand on sait la dompter –, et en même temps dans la défiance », résume l'universitaire. Anthropic inverse même la responsabilité aujourd'hui, en apprenant à Claude à se protéger de la « cruauté gratuite » dont feraient preuve certains usagers, présentant ainsi implicitement ces IA comme de nouvelles formes de vies virtuelles possiblement dotées d'une « conscience », une théorie controversée qui provoque de vifs débats dans la Silicon Valley.
