Paper fordert Laufzeitverträge für die Sicherheit von Agenten

Ein neues arXiv-Paper argumentiert, dass die Sicherheit von AI-Agenten als Laufzeitvertrag durch das Agent-Harness durchgesetzt werden sollte, statt vor allem als Eigenschaft behandelt zu werden, die beim Modelltraining erlernt wird. Die Autoren schlagen präventive Kontrollen wie Sandboxes, Berechtigungsschranken, Ausgabefilter und Trajektorien-Monitore vor, außerdem Nachweisanforderungen wie Testläufe, Log-Erfassungen, Datei-Diffs und zitationsgestützte Begründung vor der Aufgabenabgabe. Die Position stützt sich auf Audits zu 52 dokumentierten Sicherheitsvorfällen mit AI-Agenten und LLMs, 31 unbestrittenen Fällen falscher Fertigstellung, 12 öffentlichen Agentensystemen und Harnesses sowie 28.560 angenommenen NeurIPS-, ICML- und ICLR-Papers aus den Jahren 2023 bis 2025.