Une démission retentissante chez OpenAI
La directrice générale de la branche robotique chez OpenAI, Caitlin Kalinowski, a annoncé samedi sa démission. Cette décision fait suite à l'accord conclu entre le géant de l'intelligence artificielle et le gouvernement américain, autorisant l'utilisation de sa technologie à des fins militaires et de surveillance intérieure.
Un désaccord fondamental sur les garde-fous
Dans une série de messages publiés sur X, Caitlin Kalinowski a expliqué les raisons de son départ. « Les garde-fous n'ont pas été définis avant de permettre au gouvernement américain d'utiliser notre technologie », a-t-elle déclaré. Elle estime que cette annonce a été faite précipitamment, sans les protections nécessaires.
« L'IA joue un rôle important dans la sécurité nationale », a reconnu la dirigeante. « Mais la surveillance des Américains sans contrôle judiciaire et l'autonomie létale sans autorisation humaine sont des questions qui méritaient davantage de réflexion qu'elles n'en ont reçu », a-t-elle ajouté.
Le contexte de l'accord avec le Pentagone
La société à l'origine de ChatGPT a obtenu un contrat avec le Pentagone en février dernier. Cet accord est intervenu quelques heures seulement après que son concurrent Anthropic ait refusé de céder à un ultimatum du gouvernement. Ce dernier exigeait qu'Anthropic accorde à l'armée américaine une utilisation sans restriction de Claude, son assistant IA.
Cet épisode avait provoqué la colère de l'ancien président Donald Trump, montrant la sensibilité politique de ces questions.
Les réactions et ajustements
Face aux critiques, le patron d'OpenAI, Sam Altman, a annoncé sur X une série de modifications de l'accord. Il a notamment ajouté une clause stipulant que les systèmes d'IA d'OpenAI ne doivent pas être utilisés « intentionnellement » à des fins de « surveillance » des citoyens américains.
Mais pour Caitlin Kalinowski, ces ajustements sont arrivés trop tard. « C'est une question de principe, pas de personnes », a-t-elle expliqué, tout en précisant avoir « beaucoup de respect pour Sam Altman et l'équipe ».
Une question de gouvernance avant tout
La dirigeante démissionnaire a insisté sur l'importance des processus décisionnels. « C'est une question de gouvernance avant tout », a-t-elle affirmé. « Ces questions sont trop importantes pour que les accords ou les annonces soient précipités ».
Caitlin Kalinowski apporte à ce débat une expérience significative. Avant de rejoindre OpenAI, elle travaillait chez Meta, où elle développait les lunettes à réalité augmentée. Son départ souligne les tensions croissantes au sein des entreprises technologiques face aux implications éthiques de leurs innovations.
Cette démission intervient à un moment crucial pour l'industrie de l'intelligence artificielle. Alors que les technologies d'IA se développent à un rythme effréné, les questions éthiques et les garde-fous nécessaires font l'objet de débats intenses. Le cas d'OpenAI montre comment ces considérations peuvent conduire à des ruptures significatives au sein même des organisations qui créent ces technologies.
