Un rescapé de l'attaque au couteau perpétrée en avril dernier dans un centre commercial de Bondi Junction, à Sydney, a exprimé son choc et son indignation après avoir découvert que des photos de lui, prises sur les lieux du drame, avaient été détournées par l'intelligence artificielle (IA) pour créer des contenus trompeurs sur les réseaux sociaux. Ces images modifiées, qui le montrent dans des situations fictives, ont été largement partagées, suscitant une vague de réactions.
Des photos détournées par l'IA
Le survivant, dont l'identité n'a pas été révélée, a raconté son histoire au média australien ABC News. Il a expliqué avoir été contacté par des amis et des inconnus l'avertissant que des photos de lui, prises alors qu'il fuyait l'attaquant, étaient utilisées dans des montages générés par IA. Sur ces clichés, il apparaît notamment aux côtés de personnalités politiques ou dans des scènes de violence inexistantes. "C'est terrifiant de voir son image utilisée de cette manière, sans aucun contrôle, et de savoir que des gens peuvent croire à ces mensonges", a-t-il déclaré.
Un phénomène inquiétant
Ce cas illustre une tendance croissante à l'utilisation de l'IA pour manipuler des images d'actualité, en particulier dans le contexte d'événements tragiques. Selon une étude récente de l'université de Sydney, près de 30 % des contenus viraux liés à des catastrophes ou des attentats contiennent des éléments générés ou modifiés par IA. Les experts alertent sur les dangers de ces pratiques, qui peuvent non seulement nuire aux victimes mais aussi alimenter la désinformation et la polarisation.
Des conséquences psychologiques
Le rescapé a souligné l'impact psychologique de cette situation : "Après avoir vécu une expérience traumatisante, je pensais pouvoir tourner la page. Mais voir ces images détournées me ramène sans cesse à ce jour horrible." Il a appelé les plateformes sociales à renforcer leurs mécanismes de détection et de suppression des contenus générés par IA, ainsi qu'à mieux protéger les victimes d'actes criminels.
Un appel à la régulation
Cet incident relance le débat sur la régulation de l'IA en Australie. Le gouvernement australien a récemment annoncé un projet de loi visant à encadrer l'utilisation de l'IA, notamment dans la création de deepfakes. "Nous devons agir rapidement pour protéger les citoyens contre ces abus", a déclaré un porte-parole du ministère de la Justice. En attendant, le rescapé espère que son témoignage sensibilisera le public à ce problème grandissant.
