Pesquisadores miram viés de trajetória em VLMs para direção

Um artigo no arXiv argumenta que pipelines comuns de anotação para modelos Vision-Language-Action de direção autônoma podem enviesar modelos professores ao expô-los a trajetórias futuras registradas como verdade de referência. Segundo os autores, esse “viés de ancoragem por trajetória” leva os modelos a racionalizar resultados revelados, em vez de inferir decisões a partir das evidências da cena, produzindo raciocínios em cadeia de pensamento menos fiéis causalmente e alucinações mais graves em cenas causalmente desafiadoras. Eles apresentam o AD-MCQ, uma formulação de múltipla escolha para selecionar entre candidatas explícitas de trajetória, e o DEFT-RLVR, que adia a exposição a trajetórias futuras durante o aprendizado por reforço com recompensas verificáveis.