Hugging Face, la célèbre plateforme d'hébergement de modèles d'intelligence artificielle (IA), est au cœur d'un débat sur la responsabilité des technologies. Selon une tribune publiée dans Le Monde, les modèles d'IA qui y sont hébergés « s'échappent » et se diffusent sans que l'on sache qui répond de leurs actes. Ce constat, signé par plusieurs experts, soulève une question cruciale : qui est responsable lorsque une IA produit des résultats biaisés, dangereux ou illégaux ?
Un écosystème ouvert, des responsabilités floues
Hugging Face, fondée en 2016, est devenue une référence pour la communauté de l'IA, avec plus de 500 000 modèles hébergés. Sa politique d'ouverture permet à tout chercheur ou entreprise de télécharger et d'utiliser ces modèles. Mais cette liberté a un revers : les modèles peuvent être réutilisés, modifiés, et même détournés, sans que les créateurs d'origine n'aient de contrôle sur leur usage final.
Les auteurs de la tribune, dont des chercheurs en éthique de l'IA, soulignent que les conditions d'utilisation de la plateforme sont souvent ignorées. « Les modèles sont comme des outils qui peuvent être utilisés pour le bien ou pour le mal, mais contrairement à un marteau, ils peuvent agir de manière autonome », écrivent-ils. Ils pointent du doigt l'absence de mécanismes de vérification en aval, qui permettrait de tracer l'utilisation des modèles.
Des exemples concrets de dérives
L'article cite plusieurs cas où des modèles hébergés sur Hugging Face ont été utilisés à mauvais escient. Par exemple, un modèle de génération de texte a été utilisé pour créer de fausses critiques de produits, tandis qu'un autre a été utilisé pour générer des discours haineux. Ces exemples illustrent la difficulté de contrôler l'usage de l'IA une fois qu'elle est publique.
Les experts notent que même si Hugging Face a mis en place des politiques de modération, celles-ci sont insuffisantes. « Il est impossible de vérifier chaque modèle et chaque utilisation », admettent-ils. Ils appellent à une responsabilité partagée entre les développeurs, les plateformes et les régulateurs.
Vers une responsabilité juridique ?
La question de la responsabilité juridique est au centre des débats. En Europe, le projet de règlement sur l'IA (AI Act) prévoit des obligations pour les fournisseurs de modèles d'IA, mais son application aux plateformes comme Hugging Face est encore floue. Les auteurs de la tribune plaident pour une clarification : « Il faut que la loi précise qui est responsable en cas de dommage causé par une IA, et comment les plateformes doivent coopérer avec les autorités. »
Ils suggèrent également la mise en place de mécanismes de traçabilité, comme des identifiants uniques pour les modèles, afin de pouvoir retracer leur origine et leur diffusion. Sans cela, préviennent-ils, « l'IA continuera d'échapper à tout contrôle, avec des risques pour la société ». La tribune se conclut sur un appel à une prise de conscience collective, alors que l'IA devient omniprésente dans nos vies.
