Ataque DRIFT expõe fragilidade em VLAs de flow matching
O patch adversarial mira políticas robóticas pi0 e pi0.5 durante a etapa de denoising.
Por que importa
O trabalho questiona alegações de que modelos VLA baseados em flow matching são robustos a perturbações adversariais. Ele sugere que avaliações que ignoram a dinâmica de denoising em múltiplas etapas podem superestimar a segurança de sistemas de IA incorporada.
Pontos-chave
- 1.DRIFT é um patch adversarial universal montado na garra.
- 2.Atacar apenas a primeira etapa de denoising foi mais forte e mais barato.
- 3.Os testes cobriram pi0 e pi0.5 em quatro suítes LIBERO.
Pesquisadores apresentaram o DRIFT, um patch adversarial universal aplicado em tempo de teste na garra de um robô para atacar o campo de velocidade de denoising de modelos visão-linguagem-ação baseados em flow matching. O artigo relata que, em pi0 e pi0.5, em quatro suítes LIBERO, o DRIFT comprometeu essencialmente todas as tarefas originalmente solucionáveis com um único patch pequeno, superando baselines de ataque no espaço de ações e no espaço de embeddings.
⚡ Experimente hoje
Audite políticas VLA de flow matching contra ataques em etapas de denoising antes de implantá-las em ambientes robóticos.
Fontes e reportagens originais
Este resumo sintetiza e linka a cobertura dos veículos abaixo.
Gostou deste resumo? Receba o próximo no seu e-mail.
Mais em Pesquisa
Google testa AMIE em consultas médicas por vídeo em tempo real
O sistema de pesquisa baseado no Gemini foi avaliado em consultas simuladas de telessaúde.
Modelo da Anthropic avança em trabalho sobre a hipótese de Riemann
Um modelo ainda não lançado da Anthropic fez avanços no problema matemático há muito tempo sem solução, segundo o TechCrunch.
IBM detalha método de memória de agentes ALTK-Evolve
O sistema recupera diretrizes específicas da tarefa para reduzir tokens de inferência em comparação com o ACE.