研究者ら、オンポリシー蒸留に新たな制御手法を提案

複数の新しいarXiv論文が、オンポリシー蒸留をより選択的で堅牢にする手法を提案している。SPOTは、不確実性が高い、または不一致がある位置に限られたプロービングを割り当て、検証器がスコア付けした継続に基づいて蒸留ターゲットを較正する。別の研究では、生徒モデルの誤りを保持すべきかロールバックすべきかを判断するために、反事実的な回復可能性を導入している。一方、FutureBridge-OPDは、エージェント型タスクにおいて、短い教師ブリッジがその後の生徒モデルの軌跡を改善するかを検証している。