DÉCRYPTAGE – Un laboratoire indépendant réputé accuse Anthropic, preuves à l’appui, d’avoir omis voire caché l’accélération exponentielle de ses recherches en intelligence artificielle (IA).
Et si l’IA était encore plus dangereuse que ne l’admet Anthropic, pourtant régulièrement accusé de jouer sur les peurs ? Un institut de recherche indépendant, considéré comme un organisme de référence dans l’évaluation des risques liés à l’intelligence artificielle, vient de publier deux rapports pour le moins accablants à l’encontre de la firme de Dario Amodei. Ces fichiers techniques, longs de plusieurs dizaines de pages, ont par ailleurs déclenché la panique chez de nombreux observateurs et chercheurs. Certains ont exprimé des craintes en disant « craindre pour la vie de leurs amis et leur famille », et ont forcé un cofondateur d’Anthropic à promettre une analyse détaillée des faits « dans les prochaines semaines ».
L’organisme METR, pour Model Evaluation & Threat Research (évaluation de modèle et recherche de menace en français), est l’organisation indépendante la plus reconnue dans le secteur. Sa réputation repose sur son expertise technique permettant de mesurer le degré d’autonomie des IA et leurs capacités à contourner les garde-fous.