Pesquisadores da Meta mapeiam riscos entre serviços em agentes pessoais
O X-AgentRed usa grafos de dependência entre ferramentas e feedback de execução para buscar fluxos potencialmente nocivos.
Período do evento/dos dados: 2026-10-09
Publicado: · Atualizado:
Pesquisadores da Meta apresentaram o X-AgentRed, estrutura de red teaming para estudar riscos que podem surgir quando agentes pessoais usam ferramentas em vários serviços. O sistema cria um grafo de dependências que mostra como os efeitos de uma ferramenta podem atender aos pré-requisitos de outra e amplia ou corrige cenários com base no feedback de execução.
Em quatro modelos avançados de agentes, os autores relatam uma taxa média de caminhos nocivos de 1,77 vez a referência STAC e cobertura de ferramentas 2,99 vezes maior. Essas proporções foram medidas em cenários e ambiente simulado criados pelos pesquisadores; não representam taxas de incidentes com usuários reais. O artigo também aponta o custo computacional de atualizar o grafo conforme os serviços mudam.
Dados
Medida
Avaliação nos cenários de red teaming criados pelos pesquisadores
| Número de modelos de agentes testados | 4 | Avaliação nos cenários de red teaming criados pelos pesquisadores |
Metodologia
Os valores vêm dos experimentos de benchmark descritos no artigo; não são medições de campo nem garantias gerais de desempenho.
Atualizado:
Temas e lugares
Sugestões de temas
- Ciência e tecnologiaAnotação sugerida
- Preserved editorial category/topic; broad candidate onlyarxiv.org ↗
Referências geográficas
São exibidas apenas referências geográficas fornecidas pela fonte. Abrir um mapa externo é opcional. Os mapas opcionais das notícias usam o OpenStreetMap. Ao abrir um mapa, seu endereço IP e o endereço deste site são enviados ao provedor do mapa. Os dados de localização continuam disponíveis em texto sem carregar o mapa.
- Estados Unidos · Função do lugar: Cobertura · Tipo de lugar: país ou área · Precisão da localização: regionalEvidência
- Explicit preserved editorial country/region; no city or national centroid inferredarxiv.org ↗