DRIFT 攻击暴露 flow-matching VLA 的脆弱性
这种对抗性贴片在去噪过程中瞄准 pi0 和 pi0.5 机器人策略。
为什么重要
这项工作挑战了 flow-matching VLA 模型能够抵御对抗性扰动的说法。它表明，如果评估忽视多步去噪动态，可能会高估具身 AI 系统的安全性。
核心要点
- 1.DRIFT 是一种安装在夹爪上的通用对抗性贴片。
- 2.只攻击第一个去噪步骤更强，也更省成本。
- 3.测试覆盖了四个 LIBERO 套件中的 pi0 和 pi0.5。
研究人员提出了 DRIFT：一种测试时通用对抗性贴片，可安装在机器人夹爪上，用来攻击 flow-matching 视觉-语言-动作模型的去噪速度场。论文称，在四个 LIBERO 套件中针对 pi0 和 pi0.5 的测试里，DRIFT 仅凭一小块单一贴片，就基本破坏了所有原本可完成的任务，并且表现优于动作空间和嵌入空间攻击基线。
⚡ 今天就能用
在将 flow-matching VLA 策略部署到机器人场景前，应先审计其对去噪步骤攻击的抵御能力。
来源与原始报道
本简报汇总并链接到以下媒体的报道。
觉得这篇简报有用？下一篇直接送到你的邮箱。