TikTok intensifie sa lutte contre les contenus générés par intelligence artificielle. Le réseau social a annoncé ce vendredi le renforcement de ses mécanismes de détection de l'IA afin de s'attaquer aux comptes qui publient exclusivement des vidéos créées avec cette technologie.
Thématiques ciblées et objectifs
Dans un communiqué, TikTok précise que les thématiques liées à la politique, à l'actualité, à la santé et aux conseils financiers sont concernées. La plateforme estime que ces contenus nuisent « à la visibilité des créateurs originaux ».
L'objectif affiché est de préserver la confiance du public. « Dans les prochaines semaines, TikTok testera des améliorations des systèmes de détection afin de cibler les comptes dédiés à la publication de spam généré par l'IA sur des sujets susceptibles d'avoir un impact sur la confiance du public ou le bien-être des utilisateurs », indique TikTok.
Caractéristiques des comptes spam
Selon des éléments partagés avec l'AFP, la plateforme considère comme « spam » les comptes qui produisent des contenus IA « de faible qualité et très standardisés », révèlent une « concentration » de sujets à haut risque susceptibles de nuire à la confiance du public, et achètent ou vendent des abonnés. TikTok n'a pas fourni davantage de détails sur les mesures techniques mises en place pour améliorer la détection de ces comptes.
Le phénomène de l'IA slop
TikTok, comme d'autres réseaux sociaux, est confronté à une prolifération de contenus générés par IA, parfois utilisés par des comptes comme un moyen de générer une forte audience à faible coût. Ce phénomène a été baptisé « AI slop », ou « bouillie d'IA », pour décrire des contenus de piètre qualité, parfois absurdes. Les outils d'IA générative sont également utilisés par des comptes avec des objectifs plus politiques ou militants, voire à des fins de désinformation.
