Sam Altman, le dirigeant d'OpenAI, a exprimé ses regrets concernant la gestion des échanges d'une utilisatrice avant la fusillade survenue à Tumbler Ridge, au Canada. Le PDG d'OpenAI a présenté ses excuses à la ville de Tumbler Ridge, où s'est déroulée en février une tuerie dont l'auteure avait écrit d'inquiétants messages sur ChatGPT.
Dans une lettre datée de jeudi et publiée vendredi par le média d'information local « Tumbler RidgeLines », Sam Altman a assuré que « personne ne devrait jamais avoir à subir une tragédie comme celle-ci ». Le compte de Jesse Van Rootselaar, 18 ans, avait été suspendu car son activité suscitait des inquiétudes quant à une utilisation de ChatGPT à des fins violentes, mais OpenAI a déclaré ne pas avoir informé la police car rien ne laissait présager un passage à l'acte imminent. La suspension est intervenue huit mois avant que cette femme transgenre ne tue sa mère et son demi-frère, avant d'abattre cinq enfants et une éducatrice dans son ancien établissement scolaire, puis de se donner la mort.
« Profondément désolé »
Sam Altman s'est dit « profondément désolé » que son entreprise n'ait pas signalé à la police les échanges de Jesse Van Rootselaar avec ChatGPT. « Même si je sais que les mots ne suffiront jamais, je pense qu'il est nécessaire de présenter des excuses pour reconnaître le préjudice et la perte irréversible que votre communauté a subis », a-t-il écrit dans sa lettre adressée à la communauté de Tumbler Ridge.
OpenAI a été lourdement critiqué pour le rôle de sa plateforme dans cette affaire, et ses dirigeants ont été convoqués à Ottawa pour détailler leurs protocoles de sécurité. En mars, la famille d'une jeune fille gravement blessée lors de la tuerie a porté plainte contre l'entreprise. Cette tragédie soulève des questions sur la responsabilité des entreprises technologiques face à l'utilisation malveillante de leurs outils, et pourrait avoir des répercussions sur les futures réglementations en matière d'intelligence artificielle.
