L’attaque DRIFT révèle la fragilité des VLA à flow matching
Le patch adversarial cible les politiques robotiques pi0 et pi0.5 pendant le débruitage.
Pourquoi c'est important
Ces travaux remettent en cause l’idée selon laquelle les modèles VLA à flow matching seraient robustes face aux perturbations adversariales. Ils suggèrent que les évaluations qui ignorent la dynamique de débruitage en plusieurs étapes peuvent surestimer la sûreté des systèmes d’IA incarnée.
Points clés
- 1.DRIFT est un patch adversarial universel monté sur la pince.
- 2.N’attaquer que la première étape de débruitage s’est révélé plus efficace et moins coûteux.
- 3.Les tests ont porté sur pi0 et pi0.5 dans quatre suites LIBERO.
Des chercheurs ont présenté DRIFT, un patch adversarial universel utilisé au moment du test et placé sur la pince d’un robot pour attaquer le champ de vitesse de débruitage des modèles vision-langage-action à flow matching. L’article rapporte que, sur pi0 et pi0.5 dans quatre suites LIBERO, DRIFT a fait échouer quasiment toutes les tâches initialement résolubles avec un petit patch unique, surpassant les attaques de référence dans l’espace des actions et des embeddings.
⚡ À tester aujourd'hui
Auditer les politiques VLA à flow matching face aux attaques visant les étapes de débruitage avant de les déployer dans des environnements robotiques.
Sources et articles originaux
Ce brief résume et renvoie vers la couverture des médias ci-dessous.
Ce brief vous a plu ? Recevez le prochain par e-mail.
Plus dans Recherche
L’équipe MiLMMT publie des modèles de traduction sans référence
MiLMMT-46-v1.0 utilise GRPO et l’interpolation de checkpoints pour améliorer la traduction multilingue ouverte.
DistilVDR compresse la recherche visuelle de documents
Ce moteur de recherche à 524 millions de paramètres utilise une distillation bilatérale à partir d’un modèle enseignant vision-langage de 8 milliards de paramètres.
Des chercheurs proposent Power Law Graph Attention
PLGA généralise l’attention par produit scalaire mis à l’échelle et rapporte un effondrement de l’inférence sous invariance exacte.