OpenAI renonce aux conversations érotiques dans ChatGPT
La société californienne OpenAI a officiellement suspendu indéfiniment son projet d'intégrer des contenus sexuels dans son agent conversationnel ChatGPT, confirmant ainsi une information révélée par le Financial Times. Cette décision stratégique intervient alors que le leader mondial de l'IA générative se recentre prioritairement sur le développement d'outils professionnels, dans une quête accrue de revenus stables.
Un revirement après cinq mois de réflexion
En octobre dernier, le directeur général Sam Altman avait pourtant défendu l'assouplissement des restrictions de ChatGPT, promettant de « traiter les utilisateurs adultes comme des adultes » dès décembre. Cinq mois plus tard, l'entreprise a effectué un complet revirement, indiquant au Financial Times vouloir mener des recherches approfondies sur les effets des conversations sexuelles et des attachements émotionnels avant toute décision ultérieure. OpenAI reconnaît ouvertement l'absence actuelle de preuves empiriques concernant ces impacts.
Les multiples risques identifiés
Le risque réputationnel constitue l'un des principaux facteurs ayant conduit à cette suspension. Certains employés s'interrogeaient sur la compatibilité du produit, surnommé en interne « mode citron », avec la mission officielle d'OpenAI : que la technologie bénéficie à toute l'humanité. Des investisseurs ont également exprimé leurs inquiétudes concernant le risque réputationnel élevé au regard des retombées commerciales escomptées.
Des obstacles techniques majeurs ont également pesé dans la balance. Le système de vérification d'âge développé par OpenAI présenterait un taux d'erreur supérieur à 10%, selon une source citée par le quotidien britannique. Cette faille technique ravive les craintes d'exposition des mineurs à des contenus sexuels explicites, un sujet particulièrement sensible alors que l'entreprise fait face à plusieurs poursuites judiciaires aux États-Unis.
Un recentrage stratégique complet
Cet abandon s'inscrit dans le vaste recentrage annoncé mardi par Sam Altman à ses équipes, qui a déjà conduit à l'arrêt de Sora2, le réseau social de vidéos générées par IA. Cette réorganisation profonde vise à concentrer les ressources limitées - tant en puissance de calcul qu'en capital financier - sur le développement d'outils professionnels et d'agents IA, considérés comme plus lucratifs et stratégiques.
Malgré un chiffre d'affaires en forte hausse, estimé à 20 milliards de dollars en rythme annuel, OpenAI brûle actuellement beaucoup plus de trésorerie qu'il n'en génère, ce qui explique cette orientation vers des activités plus rentables à court et moyen terme.
Le contexte réglementaire et judiciaire
Ce recul d'OpenAI s'inscrit également dans un contexte de pressions judiciaires croissantes sur la Silicon Valley concernant l'impact des nouvelles technologies sur la santé mentale. L'entreprise est notamment visée par plusieurs plaintes déposées par des parents accusant les chatbots d'IA d'avoir joué un rôle dans le suicide ou la maladie d'adolescents.
La Commission fédérale du commerce américaine (FTC) a ouvert une enquête sur ce sujet sensible visant plusieurs entreprises technologiques, dont OpenAI. Mercredi, un verdict inédit a secoué l'industrie, avec la condamnation d'Instagram (Meta) et YouTube (Google), jugés responsables de la lourde dépression d'une adolescente.
En janvier dernier, la société xAI d'Elon Musk avait déjà suscité une controverse mondiale avec le « mode épicé » de son assistant Grok, utilisé pour déshabiller virtuellement femmes et enfants à partir de photos réelles, illustrant ainsi les dangers potentiels de ces fonctionnalités.
