Anthropic : une vision nuancée de l'IA
Daniela Amodei, présidente de la start-up américaine Anthropic, a livré une analyse équilibrée de l'intelligence artificielle lors d'une interview au Monde. Selon elle, il est essentiel d'embrasser à la fois les aspects positifs et les zones d'ombre de cette technologie en plein essor. Anthropic, fondée en 2021 par d'anciens employés d'OpenAI, se spécialise dans le développement de modèles d'IA sûrs et éthiques.
Les promesses de l'IA
Amodei a souligné les avancées significatives permises par l'IA, notamment dans les domaines de la santé, de l'éducation et de la recherche scientifique. Elle a cité l'exemple de la découverte de nouveaux médicaments, où l'IA accélère considérablement le processus. "L'IA a le potentiel de résoudre certains des problèmes les plus urgents de l'humanité", a-t-elle déclaré.
Les risques à ne pas négliger
La dirigeante n'a pas occulté les dangers potentiels. Elle a évoqué les risques de désinformation, de biais algorithmiques et de perte d'emplois. Selon une étude interne d'Anthropic, 72 % des experts en IA s'inquiètent d'une utilisation malveillante de la technologie dans les cinq prochaines années. "Nous devons anticiper ces scénarios et mettre en place des garde-fous", a-t-elle insisté.
La régulation comme nécessité
Daniela Amodei a plaidé pour une régulation proactive de l'IA, tout en évitant une approche trop restrictive qui étoufferait l'innovation. Elle a salué les efforts de l'Union européenne avec l'AI Act, mais a appelé à une coopération internationale. "La régulation ne doit pas être un frein, mais un cadre qui permette de développer l'IA de manière responsable", a-t-elle expliqué.
L'éthique au cœur du modèle d'Anthropic
Anthropic se distingue par son approche centrée sur la sécurité. La société a développé Claude, un assistant IA conçu pour être "utile, inoffensif et honnête". Amodei a détaillé les protocoles de test rigoureux : chaque version de Claude est soumise à des milliers de scénarios pour détecter des comportements problématiques. "Nous investissons 30 % de notre budget R&D dans la sécurité", a-t-elle révélé.
Un appel à la transparence
Enfin, la présidente d'Anthropic a appelé à une transparence accrue de la part des entreprises d'IA. Elle a suggéré la création d'un organisme de certification indépendant, à l'image de ce qui existe pour l'industrie pharmaceutique. "Les utilisateurs doivent savoir ce qu'il y a dans la boîte noire", a-t-elle conclu.
