L'humain dans la boucle : une promesse rassurante pour l'IA militaire
C'est l'argument imparable, le joker brandi sans cesse face aux interrogations dérangeantes sur l'intelligence artificielle dans le domaine militaire. Que se passe-t-il si l'outil désigne une cible erronée ? S'il recommande une riposte excessive ou disproportionnée ? « Il y aura toujours un humain dans la boucle », affirment avec conviction les défenseurs de ces technologies émergentes. Cette notion, connue en anglais sous le terme human in the loop ou HITL, est au cœur des débats.
Une définition théorique simple, une application pratique complexe
« Concrètement, cela signifie que chaque décision suggérée par une intelligence artificielle doit recevoir l'approbation d'un être humain avant toute mise en œuvre », précise Giacomo Persi Paoli, responsable du programme sécurité et technologie à l'Unidir, l'Institut des Nations unies pour la recherche sur le désarmement. La présence d'un opérateur humain est ainsi présentée comme un remède universel aux risques et aux dérives potentielles de l'IA.
Pourtant, la réalité opérationnelle s'avère bien plus nuancée et problématique. « Il paraît évident qu'un humain doive décider d'une frappe dans des zones peuplées. Cependant, face à la destruction d'un drone ou d'une machine ennemie, automatiser la réaction peut constituer l'option la plus rapide, donc la plus protectrice », souligne Florian Fournier, cofondateur et PDG d'Orasio, une entreprise spécialisée dans la vidéo intelligence qui travaille avec des collectivités, des forces de sécurité intérieure et des armées européennes.
Les limites de la supervision humaine dans les systèmes défensifs
En effet, les systèmes de défense antiaérienne modernes illustrent parfaitement ces tensions. Ils ne peuvent pas toujours attendre l'approbation explicite d'un opérateur humain pour intercepter des missiles se déplaçant à plusieurs kilomètres par seconde. Dans de tels scénarios, une réaction automatisée est non seulement justifiée, mais essentielle pour assurer la protection des vies et des infrastructures.
Cette réalité met en lumière le dilemme fondamental : jusqu'où peut-on et doit-on conserver le contrôle humain face à des menaces à la vitesse et à la complexité croissantes ? La garantie de l'humain dans la boucle, bien que rassurante sur le papier, se heurte aux impératifs tactiques et aux contraintes temporelles des conflits contemporains.
