El ataque DRIFT expone la fragilidad de los VLA de flow matching
El parche adversarial apunta a las políticas robóticas pi0 y pi0.5 durante el denoising.
Por qué importa
El trabajo cuestiona las afirmaciones de que los modelos VLA de flow matching son robustos frente a perturbaciones adversariales. Sugiere que las evaluaciones que ignoran la dinámica de denoising en múltiples pasos pueden sobrestimar la seguridad de los sistemas de IA encarnada.
Puntos clave
- 1.DRIFT es un parche adversarial universal montado en la pinza.
- 2.Atacar solo el primer paso de denoising fue más fuerte y más barato.
- 3.Las pruebas cubrieron pi0 y pi0.5 en cuatro suites LIBERO.
Investigadores presentaron DRIFT, un parche adversarial universal en tiempo de prueba colocado en la pinza de un robot para atacar el campo de velocidad de denoising de modelos vision-language-action basados en flow matching. El artículo informa que, en pi0 y pi0.5 a través de cuatro suites LIBERO, DRIFT rompió prácticamente todas las tareas que originalmente podían resolverse con un único parche pequeño, superando a las líneas base de ataque en el espacio de acciones y de embeddings.
⚡ Pruébalo hoy
Auditar las políticas VLA de flow matching frente a ataques en los pasos de denoising antes de desplegarlas en entornos robóticos.
Fuentes y cobertura original
Este resumen sintetiza y enlaza la cobertura de los medios siguientes.
¿Te gustó este resumen? Recibe el próximo en tu correo.
Más en Investigación
Google prueba AMIE para consultas médicas por video en tiempo real
El sistema de investigación basado en Gemini fue evaluado en consultas simuladas de telesalud.
Un modelo de Anthropic avanza en el trabajo sobre la hipótesis de Riemann
Un modelo aún no lanzado de Anthropic logró avances en el problema matemático pendiente desde hace décadas, informó TechCrunch.
IBM detalla ALTK-Evolve, un método de memoria para agentes
El sistema recupera pautas específicas de cada tarea para reducir los tokens de inferencia frente a ACE.