Anthropic accorde à METR un accès comparable à celui des employés pour évaluer les risques de l’IA

Anthropic a indiqué le 15 octobre avoir commencé à accorder un accès comparable à celui des employés à une équipe de six personnes de METR, organisation à but non lucratif qui évalue les modèles d’IA de pointe. Cet accès comprend du matériel, des locaux et des systèmes internes proches de ceux utilisés par ses équipes d’évaluation des risques, avec quelques exclusions comme les données clients et les architectures des modèles.

METR pourra publier ses analyses des niveaux de risque, des incidents et des pratiques. Anthropic affirme ne pas pouvoir opposer son veto à la publication, mais pouvoir demander le retrait de catégories sensibles précisément définies. L’entreprise décrit aussi des travaux plus limités avec SecureBio et Accenture et un cadre d’accès à trois niveaux. Il s’agit d’un dispositif volontaire de supervision, pas d’un résultat d’évaluation publié.