Anthropic concede a METR acceso similar al de empleados para evaluar riesgos de IA

Anthropic dijo el 15 de octubre que había empezado a conceder acceso similar al de sus empleados a un equipo de seis personas de METR, una organización sin ánimo de lucro que evalúa modelos de IA de frontera. Incluye equipos, espacio de trabajo y sistemas internos comparables a los de sus equipos de evaluación de riesgos, con algunas exclusiones, como datos de clientes y arquitecturas de modelos.

METR podrá publicar análisis sobre niveles de riesgo, incidentes y prácticas. Anthropic afirma que no puede vetar la publicación, aunque sí solicitar la supresión de categorías de información sensible definidas de forma limitada. La empresa también describió trabajos más restringidos con SecureBio y Accenture y un marco de tres niveles de acceso para evaluadores. Es un acuerdo voluntario de supervisión, no un resultado de evaluación publicado.