DRIFT-Angriff legt Fragilität flow-matching-basierter VLAs offen
Der adversariale Patch zielt während des Denoisings auf die Roboter-Policies pi0 und pi0.5.
Warum es wichtig ist
Die Arbeit stellt Behauptungen infrage, dass flow-matching-basierte VLA-Modelle robust gegenüber adversarialen Störungen seien. Sie legt nahe, dass Evaluationen, die mehrstufige Denoising-Dynamiken ausblenden, die Sicherheit verkörperter KI-Systeme überschätzen könnten.
Die Kernpunkte
- 1.DRIFT ist ein am Greifer montierter universeller adversarialer Patch.
- 2.Nur den ersten Denoising-Schritt anzugreifen war stärker und günstiger.
- 3.Die Tests umfassten pi0 und pi0.5 über vier LIBERO-Suiten hinweg.
Forschende stellten DRIFT vor, einen universellen adversarialen Patch für die Testphase, der an einem Robotergreifer angebracht wird, um das Denoising-Velocity-Field von flow-matching-basierten Vision-Language-Action-Modellen anzugreifen. Dem Paper zufolge brachte DRIFT bei pi0 und pi0.5 über vier LIBERO-Suiten hinweg praktisch alle ursprünglich lösbaren Aufgaben mit einem kleinen einzelnen Patch zum Scheitern und übertraf dabei Angriff-Baselines im Action- und Embedding-Space.
⚡ Heute ausprobieren
Flow-matching-basierte VLA-Policies sollten vor dem Einsatz in Robotik-Umgebungen gegen Angriffe auf Denoising-Schritte geprüft werden.
Quellen & Originalberichte
Dieser Brief fasst die Berichterstattung der folgenden Medien zusammen und verlinkt sie.
Hat dir dieses Briefing gefallen? Erhalte das nächste per Mail.
Mehr in Forschung
Google testet AMIE für medizinische Videokonsultationen in Echtzeit
Das auf Gemini basierende Forschungssystem wurde in simulierten Telemedizin-Konsultationen evaluiert.
Anthropic-Modell bringt Arbeit an der Riemannschen Vermutung voran
Ein unveröffentlichtes Anthropic-Modell hat Fortschritte bei dem seit Langem ungelösten mathematischen Problem erzielt, berichtete TechCrunch.
IBM erläutert Agenten-Gedächtnismethode ALTK-Evolve
Das System ruft aufgabenspezifische Leitlinien ab, um gegenüber ACE Inference-Tokens zu sparen.