DRIFT攻撃、flow-matching型VLAの脆弱性を露呈
敵対的パッチは、denoisingの過程でpi0とpi0.5のロボットポリシーを狙う。
なぜ重要か
この研究は、flow-matching型VLAモデルが敵対的摂動に対して堅牢だとする主張に疑問を投げかける。多段階のdenoisingダイナミクスを無視した評価は、身体性AIシステムの安全性を過大評価するおそれがあることを示している。
要点
- 1.DRIFTはグリッパーに取り付ける汎用敵対的パッチだ。
- 2.最初のdenoisingステップだけを攻撃する手法の方が、より強力で低コストだった。
- 3.テストは4つのLIBEROスイートにまたがるpi0とpi0.5を対象に実施された。
研究者らはDRIFTを発表した。これは、ロボットのグリッパーに取り付けるテスト時の汎用敵対的パッチで、flow-matching型のvision-language-actionモデルにおけるdenoising速度場を攻撃するものだ。論文によると、DRIFTは4つのLIBEROスイートにまたがるpi0とpi0.5で、小さな単一パッチによって本来解けていたタスクのほぼすべてを破綻させ、行動空間および埋め込み空間の攻撃ベースラインを上回った。
⚡ 今日から使える
ロボット環境に導入する前に、flow-matching型VLAポリシーをdenoisingステップ攻撃に対して監査すべきだ。
出典・一次報道
本記事は以下の媒体の報道を要約し、リンクしています。
この記事が役に立ちましたか？次号をメールでお届けします。
関連： 研究
研究
DistilVDR、視覚文書検索を圧縮
5億2400万パラメータの検索器は、80億パラメータの視覚言語教師モデルから双方向蒸留を行う。
arXiv cs.CL+1 outlet·8h ago
研究
研究者ら、Power Law Graph Attentionを提案
PLGAはscaled dot-product attentionを一般化し、厳密な不変性の下で推論が崩壊すると報告している。
arXiv cs.LG+1 outlet·8h ago
研究
長文書VLM推論を狙う新論文群
InSight-doc、DocAtlas、DocMemoは、複雑な文書内で根拠を見つけるためのエージェント型アプローチを提案している。
arXiv cs.LG+1 outlet·8h ago