OpenAI a annoncé l'extension de ChatGPT aux adolescents, une décision qui suscite à la fois intérêt et inquiétude. Les nouvelles fonctionnalités visent à encadrer l'usage de l'IA générative chez les 13-17 ans, avec des protections spécifiques contre les contenus liés à l'automutilation, aux troubles alimentaires et à la triche dans les études.
Un déploiement progressif et encadré
Selon l'annonce officielle, le déploiement se fera progressivement à partir de cette semaine. Les adolescents pourront utiliser ChatGPT, mais avec des limites claires : les modèles seront configurés pour refuser les demandes liées à des sujets sensibles comme l'automutilation ou les troubles alimentaires, et pour rediriger les utilisateurs vers des ressources d'aide appropriées.
OpenAI a également intégré des mécanismes pour décourager la triche scolaire. Les réponses de ChatGPT seront plus nuancées et encourageront les élèves à développer leur propre réflexion plutôt que de simplement copier des réponses toutes faites. Cette mesure répond aux craintes des enseignants et des parents quant à l'utilisation de l'IA dans le cadre éducatif.
Des protections spécifiques pour les mineurs
Les comptes des utilisateurs mineurs bénéficieront de paramètres de confidentialité renforcés. Les données collectées seront utilisées de manière plus limitée, et OpenAI s'engage à ne pas utiliser les conversations des adolescents pour entraîner ses modèles sans consentement explicite. Ces mesures visent à rassurer les régulateurs et les associations de protection de l'enfance.
L'entreprise précise que les modèles utilisés pour les adolescents seront les mêmes que ceux destinés aux adultes, mais avec des ajustements spécifiques. Par exemple, les réponses seront plus prudentes sur les sujets de santé mentale, et des messages d'alerte seront affichés si des signes de détresse sont détectés.
Un équilibre entre innovation et responsabilité
Cette initiative intervient alors que l'IA générative est de plus en plus présente dans la vie quotidienne des jeunes. OpenAI affirme vouloir concilier innovation et responsabilité, en offrant aux adolescents un outil utile tout en minimisant les risques. L'entreprise a travaillé avec des experts en éducation et en psychologie pour développer ces garde-fous.
Les réactions sont mitigées : certains saluent une avancée positive, d'autres restent sceptiques quant à l'efficacité réelle de ces protections. Toutefois, OpenAI assure que des évaluations seront menées régulièrement pour ajuster les mesures si nécessaire.
En pratique, les adolescents pourront utiliser ChatGPT pour des devoirs, des projets créatifs ou des questions personnelles, mais avec un encadrement plus strict. L'objectif est de les accompagner dans leur apprentissage tout en les protégeant des dérives potentielles de l'IA.
