Nuevos papers analizan la información privilegiada en OPSD

Tres nuevos papers de arXiv examinan la autodestilación on-policy, un enfoque de post-entrenamiento en el que un modelo se entrena a partir de una vista privilegiada del profesor, pero luego opera con menos contexto. Uno de los papers sostiene que las rúbricas pueden funcionar como información privilegiada densa para la generación abierta y, en sus experimentos, superar al aprendizaje por refuerzo que usa la rúbrica como recompensa. Los otros dos se centran en modos de fallo en la destilación de razonamiento, y proponen Dual-Anchored Policy Distillation y Problem-Space-Guided OPSD para reducir la dependencia de información que no estará disponible en el momento de inferencia.