Arthur Mensch, fondateur de Mistral AI, critique les alertes américaines sur les risques extrêmes de l'intelligence artificielle
Dans un entretien exclusif accordé au Monde et à France Inter le vendredi 20 février 2024, lors du sommet de l'IA à New Delhi, Arthur Mensch, le fondateur français de la startup Mistral AI, a vivement réagi aux récentes mises en garde émises par des dirigeants américains du secteur concernant les dangers potentiels de l'intelligence artificielle.
Les avertissements américains : une "Agence internationale" et des risques biologiques
Sam Altman, le PDG d'OpenAI, a récemment proposé, lors du sommet de l'IA en Inde qui s'est tenu du 16 au 20 février, la création d'une sorte d'"Agence internationale de l'énergie atomique" pour coordonner les efforts face à l'émergence potentielle d'une "superintelligence" d'ici deux ans. Parallèlement, Dario Amodei, fondateur d'Anthropic, a publié fin janvier un long essai intitulé The Adolescence of Technology, dans lequel il expose des risques majeurs comme la "perte de contrôle" des IA avancées ou leur utilisation pour développer des armes biologiques.
La réponse cinglante d'Arthur Mensch : "des discours de distraction"
Arthur Mensch a catégoriquement rejeté ces positions alarmistes, les qualifiant de "discours de distraction pour l'essentiel". Selon lui, le véritable danger de l'intelligence artificielle ne réside pas dans ces scénarios extrêmes, mais plutôt dans son influence massive sur la pensée et le vote des citoyens. Il prend ainsi le contrepied de ses homologues américains, en mettant en lumière un risque plus immédiat et concret.
Le risque réel selon Mensch : l'influence sur la pensée et les élections
Le patron de Mistral AI avait déjà exprimé ses craintes concernant la formation d'un "oligopole de l'information" avec des assistants IA comme ChatGPT d'OpenAI ou Grok de xAI. Il décrit ces outils comme de potentiels "organes de contrôle de la pensée" et redoute des tentatives de manipulation lors des processus électoraux. Pour Arthur Mensch, la priorité devrait être de réguler ces aspects plutôt que de se focaliser sur des menaces hypothétiques et lointaines.
Cette prise de position intervient dans un contexte où la régulation de l'IA est au cœur des débats internationaux, avec des approches divergentes entre les acteurs américains et européens. Arthur Mensch, en tant que figure montante de l'IA en France, apporte ainsi une perspective critique qui remet en question le narratif dominant sur les risques extrêmes, en insistant sur des enjeux plus pragmatiques liés à la démocratie et à l'information.
