Meta araştırmacıları kişisel ajanların hizmetler arası risklerini haritalıyor
X-AgentRed, araç bağımlılık grafiği ve yürütme geri bildirimiyle zararlı olabilecek iş akışlarını arıyor.
Olay / veri dönemi: 2026-10-09
Yayın: · Güncelleme:
Meta araştırmacıları, kişisel yapay zekâ ajanlarının birden fazla hizmetteki araçları kullanırken oluşturabileceği birleşik riskleri inceleyen X-AgentRed adlı bir kırmızı takım çerçevesi sundu. Sistem, bir aracın etkilerinin sonraki araçların önkoşullarını nasıl karşılayabileceğini gösteren bir bağımlılık grafiği kuruyor ve çalıştırma sonuçlarına göre olası senaryoları genişletip düzeltiyor.
Dört güncel ajan modeli üzerindeki deneylerde, yazarlar STAC referansına göre ortalama zararlı yol oranının 1,77 kat, araç kapsamının ise 2,99 kat olduğunu bildirdi. Bu oranlar araştırmacıların kurduğu senaryolarda ve benzetim ortamında ölçüldü; gerçek kullanıcıların karşılaştığı olay sıklığını göstermez. Makale, hizmetler değiştikçe bağımlılık grafiğini güncellemenin hesaplama maliyetine de işaret ediyor.
Veriler
Ölçüt
Araştırmacıların kurduğu kırmızı takım senaryolarındaki değerlendirme
| Test edilen ajan modeli sayısı | 4 | Araştırmacıların kurduğu kırmızı takım senaryolarındaki değerlendirme |
Yöntem
Rakamlar makalenin tanımladığı kıyaslama deneylerine aittir; saha ölçümü veya genel performans garantisi değildir.
Güncelleme:
Konular ve yerler
Konu önerileri
- Bilim ve teknolojiÖneri
- Preserved editorial category/topic; broad candidate onlyarxiv.org ↗
Coğrafi referanslar
Yalnızca kaynakta bulunan coğrafi referanslar gösterilir. Harici haritayı açmak isteğe bağlıdır. İsteğe bağlı haber haritaları OpenStreetMap kullanır. Haritayı açtığınızda IP adresiniz ve site adresi harita sağlayıcısına iletilir; harita yüklenmeden konum verileri metin olarak okunabilir.
- Amerika Birleşik Devletleri · Yer rolü: Kapsam · Yer türü: Ülke veya bölge · Konum kesinliği: BölgeselKanıt
- Explicit preserved editorial country/region; no city or national centroid inferredarxiv.org ↗