Laboratoire METR

Q: Quel est l'objectif principal des tests du METR ?

Le METR cherche à identifier si un modèle possède des capacités dangereuses, comme la création d'armes biologiques ou la cyber-offensive autonome. En testant les modèles avant leur sortie, ils agissent comme une sentinelle pour s'assurer que les innovations ne dépassent pas nos capacités de contrôle humain.

Q: Comment le METR influence-t-il les entreprises comme OpenAI ?

Les grands laboratoires soumettent désormais volontairement leurs modèles au METR pour obtenir une certification de sécurité. Pour vous, consommateur d'IA, c'est une garantie supplémentaire que les outils que vous utilisez ont été audités par des experts neutres et compétents sur les risques extrêmes.

Q: Quelles sont les méthodes d'évaluation utilisées par le lab ?

Ils utilisent des scénarios complexes où le modèle doit résoudre des problèmes de programmation ou de planification sans aide. Si le modèle réussit trop facilement des tâches critiques, le METR alerte sur la nécessité de renforcer les garde-fous avant tout déploiement public.

Abstract

Le laboratoire METR est une organisation indépendante dédiée à l'évaluation rigoureuse des capacités et des risques de sécurité des modèles d'intelligence artificielle les plus puissants.