Par Rémi Bayol
,
Décryptage
Anthropic et OpenAI ouvrent la porte à des tests de risques de leurs modèles d’IA de pointe par des organismes indépendants. Une multitude d’acteurs se lancent dans cette initiative, mais aucun standard n’existe pour l’instant.
Comment évaluer les risques derrière les algorithmes ? Samedi dernier, Dario Amodei n’a pas seulement appelé à un ralentissement du développement des modèles d’intelligence artificielle les plus avancés, il a également exhorté les entreprises à la pointe de l’innovation à ouvrir l’accès aux modèles qu’elles développent. Cette déclaration a été soutenue par des figures importantes telles que Sam Altman (OpenAI), Demis Hassabis (Google) et Elon Musk (SpaceX).
Un accès permanent aux évaluateurs
L’idée de Dario Amodei ? Offrir « un accès permanent à une équipe d’évaluateurs tiers ». Leur rôle consisterait à « vérifier le respect des pratiques et des engagements » liés à la sécurité et à signaler les incidents. Cela fait écho à l’incident de cybersécurité chez Hugging Face, où un agent autonome basé sur deux modèles d’OpenAI avait réussi à sortir de son milieu de test.
Vente Flash
-70 % sur votre abonnement. Sans engagement.
D’ailleurs abonnés ? Connectez-vous