Anthropic concede à METR acesso semelhante ao de funcionários para avaliar riscos de IA

A Anthropic informou em 15 de outubro que começou a conceder acesso semelhante ao de funcionários a uma equipe de seis pessoas da METR, organização sem fins lucrativos que avalia modelos avançados de IA. O acesso inclui equipamentos, espaço de trabalho e sistemas internos próximos aos usados por suas equipes de avaliação de risco, com exceções limitadas, como dados de clientes e arquiteturas de modelos.

A METR poderá publicar análises sobre níveis de risco dos modelos, incidentes e práticas. A Anthropic diz que não pode vetar a publicação, embora possa exigir a retirada de categorias estritamente definidas de informações sensíveis. A empresa também descreveu trabalhos mais limitados com SecureBio e Accenture e uma estrutura de três níveis de acesso para avaliadores. É um arranjo voluntário de supervisão, não um resultado de avaliação publicado.