Sarah El Haïry, haut-commissaire à l'Enfance, a vivement critiqué ce jeudi les systèmes algorithmiques utilisés par les plateformes numériques, qu'elle qualifie de « captivité algorithmique ». Selon elle, exposer les enfants à ces mécanismes revient à une forme de prédation. Elle appelle à une régulation plus stricte pour protéger les mineurs en ligne.
Des algorithmes conçus pour capter l'attention
Les plateformes comme TikTok, Instagram ou YouTube utilisent des algorithmes de recommandation qui poussent du contenu personnalisé pour maximiser le temps passé sur l'application. Ces systèmes sont particulièrement efficaces sur les jeunes cerveaux, encore en développement, les rendant vulnérables à une utilisation excessive et à des contenus inappropriés. Sarah El Haïry souligne que ces mécanismes créent une dépendance et peuvent exposer les enfants à des prédateurs sexuels ou à des contenus violents.
Une prédation algorithmique
« Confronter des enfants à des systèmes de captivité algorithmique, c'est aussi de la prédation », a-t-elle déclaré lors d'une conférence sur la protection de l'enfance. Elle compare ces algorithmes à des pièges qui attirent les enfants et les maintiennent captifs, les privant de leur liberté de choix et de leur capacité à se déconnecter. Elle appelle les géants du numérique à assumer leur responsabilité et à modifier leurs modèles économiques fondés sur l'attention des utilisateurs.
Des mesures concrètes attendues
La haut-commissaire demande une application stricte du Digital Services Act (DSA) européen, qui impose aux grandes plateformes de mieux protéger les mineurs. Elle propose également l'interdiction des algorithmes de recommandation pour les utilisateurs de moins de 16 ans, ainsi que la mise en place de contrôles parentaux renforcés. Elle insiste sur la nécessité d'une éducation numérique dès le plus jeune âge pour apprendre aux enfants à reconnaître et à résister à ces mécanismes.
Réactions des associations
Les associations de protection de l'enfance saluent ces propos. L'Union nationale des associations de protection de l'enfance (UNAPE) rappelle que « les enfants ne sont pas des marchandises et leur attention ne doit pas être exploitée ». Elles appellent le gouvernement à légiférer rapidement pour encadrer ces pratiques. De leur côté, les plateformes se défendent en arguant qu'elles ont déjà mis en place des mesures, mais les critiques estiment qu'elles sont insuffisantes.
Un enjeu de santé publique
Au-delà de la prédation, Sarah El Haïry insiste sur les conséquences sur la santé mentale des enfants : anxiété, dépression, troubles du sommeil et baisse de l'estime de soi. Elle compare cette situation à un problème de santé publique nécessitant une réponse collective. Elle annonce la création d'un groupe de travail interministériel pour élaborer des propositions concrètes d'ici la fin de l'année.
