OpenAI suspend indéfiniment son projet de ChatGPT érotique
OpenAI a confirmé jeudi la suspension indéfinie de son projet visant à autoriser les conversations érotiques dans ChatGPT. Cette décision intervient alors que l'initiative nourrissait de vives inquiétudes concernant ses effets potentiellement nocifs et le risque réputationnel majeur pour le leader mondial de l'intelligence artificielle générative.
Absence de preuves empiriques et recentrage stratégique
Cette annonce, dévoilée initialement par le Financial Times, coïncide avec le recentrage stratégique d'OpenAI sur le développement d'outils professionnels, dans une quête accrue de revenus. En octobre dernier, le PDG Sam Altman avait pourtant défendu l'assouplissement des restrictions de ChatGPT prévu pour décembre, affirmant vouloir « traiter les utilisateurs adultes comme des adultes ».
Cinq mois plus tard, l'entreprise a indiqué au quotidien britannique son intention de mener des recherches approfondies à long terme sur les impacts des conversations à caractère sexuel et des attachements émotionnels avant toute décision ultérieure. OpenAI reconnaît ouvertement l'absence actuelle de « preuves empiriques » suffisantes pour évaluer les conséquences d'une telle fonctionnalité.
Le « mode citron » en question
En interne, certains employés s'interrogeaient déjà sur la compatibilité du produit, surnommé en interne « mode citron », avec la mission officielle de l'entreprise qui est de veiller à ce que la technologie bénéficie à l'ensemble de l'humanité. Des investisseurs ont également soulevé le risque réputationnel élevé, jugé disproportionné par rapport aux retombées commerciales escomptées.
Des obstacles techniques significatifs ont pesé dans la balance. Le système de vérification d'âge développé par OpenAI présenterait un taux d'erreur supérieur à 10 %, selon une source citée par le FT. Ce défaut ravive les craintes d'une exposition potentielle des mineurs à des contenus sexuels explicites, un sujet particulièrement sensible alors qu'OpenAI fait face à plusieurs poursuites judiciaires aux États-Unis.
Recentrage et pressions judiciaires
Cet abandon s'inscrit dans le recentrage organisationnel annoncé mardi par Sam Altman à ses équipes, qui a déjà conduit à l'arrêt de Sora2, le réseau social de vidéos générées par IA. Cette réorganisation vise à concentrer les ressources limitées, tant en puissance de calcul qu'en capital, sur le développement d'outils professionnels et d'agents IA, considérés comme des segments plus lucratifs.
Malgré un chiffre d'affaires en forte hausse, estimé à environ 20 milliards de dollars en rythme annuel, OpenAI brûle actuellement beaucoup plus de trésorerie qu'il n'en génère. Le recul sur le ChatGPT érotique survient également dans un contexte de pressions judiciaires croissantes sur la Silicon Valley concernant l'impact des nouvelles technologies sur la santé mentale des utilisateurs.
Vigilance accrue sur la protection des mineurs
OpenAI est notamment visé par plusieurs plaintes déposées par des parents, qui accusent les chatbots d'intelligence artificielle d'avoir joué un rôle dans le suicide ou la maladie mentale d'adolescents. La Commission fédérale du commerce américaine (FTC) a ouvert une enquête sur ce sujet sensible, ciblant plusieurs entreprises du secteur, dont OpenAI.
Mercredi, un verdict inédit a secoué l'industrie technologique, avec la condamnation des plateformes Instagram (Meta) et YouTube (Google), jugées responsables de la lourde dépression d'une adolescente. En janvier dernier, la société xAI d'Elon Musk avait déjà suscité une controverse mondiale avec le « mode épicé » de son assistant Grok, utilisé pour déshabiller virtuellement des femmes et des enfants à partir de photographies réelles, illustrant les dangers potentiels de telles fonctionnalités.
