Meta-Forschende kartieren dienstübergreifende Risiken persönlicher Agenten

Meta-Forschende stellten X-AgentRed vor, ein Red-Team-Verfahren zur Untersuchung von Risiken, die entstehen können, wenn persönliche Agenten Werkzeuge über mehrere Dienste hinweg nutzen. Es erstellt einen Abhängigkeitsgraphen, der zeigt, wie die Wirkung eines Werkzeugs die Voraussetzungen eines anderen erfüllen kann, und erweitert oder korrigiert Szenarien anhand von Ausführungsrückmeldungen.

Über vier moderne Agentenmodelle berichten die Autoren eine durchschnittliche Rate schädlicher Pfade von 1,77-mal der STAC-Referenz und eine 2,99-mal so hohe Werkzeugabdeckung. Diese Verhältnisse wurden in entworfenen Szenarien und einer simulierten Umgebung gemessen; sie geben keine Vorfallrate bei realen Nutzern an. Die Arbeit nennt außerdem den Rechenaufwand für die Aktualisierung des Graphen bei Änderungen an Diensten.