運転向けVLMの「軌道バイアス」に研究者が対策

arXivの論文は、自動運転向けVision-Language-Actionモデルで一般的に使われるアノテーション工程が、記録済みの正解未来軌道を教師モデルに見せることでバイアスを生む可能性があると指摘している。著者らは、この「trajectory anchoring bias」により、モデルがシーンの証拠から判断を推論するのではなく、提示された結果を後付けで正当化するようになり、因果的な忠実性に欠けるchain-of-thought推論や、因果関係が難しい場面でのより深刻なハルシネーションにつながると述べている。論文は、明示的な軌道候補から選択する多肢選択形式のAD-MCQと、検証可能な報酬を用いる強化学習中に未来軌道への露出を遅らせるDEFT-RLVRを導入している。