Investigadores de Meta mapean riesgos entre servicios en agentes personales
X-AgentRed usa grafos de dependencias entre herramientas y comentarios de ejecución para buscar flujos potencialmente dañinos.
Período del evento / de los datos: 2026-10-09
Publicado: · Actualizado:
Investigadores de Meta presentaron X-AgentRed, un marco de red teaming para estudiar riesgos que pueden surgir cuando los agentes personales usan herramientas en varios servicios. Construye un grafo de dependencias que muestra cómo los efectos de una herramienta pueden satisfacer requisitos de otra y luego amplía o corrige escenarios candidatos con la retroalimentación de ejecución.
En cuatro modelos avanzados de agentes, los autores informan de una tasa media de rutas dañinas de 1,77 veces la referencia STAC y una cobertura de herramientas 2,99 veces mayor. Estas proporciones se midieron en escenarios y un entorno simulado creados por los investigadores; no representan tasas de incidentes entre usuarios reales. El artículo también señala el coste computacional de actualizar el grafo al cambiar los servicios.
Datos
Medida
Evaluación en los escenarios de red teaming creados por los investigadores
| Número de modelos de agentes probados | 4 | Evaluación en los escenarios de red teaming creados por los investigadores |
Metodología
Las cifras proceden de los experimentos de benchmark descritos en el artículo; no son mediciones de campo ni una garantía general de rendimiento.
Actualizado:
Temas y lugares
Propuestas temáticas
- Ciencia y tecnologíaSugerido
- Preserved editorial category/topic; broad candidate onlyarxiv.org ↗
Referencias geográficas
Solo se muestran referencias geográficas proporcionadas por la fuente. Abrir un mapa externo es opcional. Los mapas opcionales usan OpenStreetMap. Al abrirlos se envían tu dirección IP y la de este sitio al proveedor; los datos de ubicación pueden leerse sin cargar el mapa.
- Estados Unidos · Función del lugar: Cobertura · Tipo de lugar: País o área · Precisión de ubicación: RegionalEvidencia
- Explicit preserved editorial country/region; no city or national centroid inferredarxiv.org ↗