AAI News Hub
InvestigaciónFri, August 7, 2026·Aug 72 sources corroborating

Nuevos papers ponen a prueba la autodestilación para RL agéntico

AgentOPSD y OCSD proponen correcciones, mientras otro estudio encuentra que los profesores con información privilegiada pueden fallar en tareas más difíciles.

Por qué importa

Los papers señalan la asignación de crédito y la supervisión privilegiada sesgada como problemas centrales aún no resueltos en el RL agéntico. También sugieren que una menor pérdida de destilación no es evidencia suficiente de que un agente esté aprendiendo un mejor comportamiento.

Puntos clave

  • 1.AgentOPSD apunta a la asignación de crédito a nivel de turno sin crítico ni rollouts adicionales.
  • 2.OCSD intenta eliminar la confusión causada por el andamiaje de repetición en las señales de observación privilegiadas.
  • 3.Un estudio sobre sesgos encuentra que la autodestilación puede degradar la precisión de validación en tareas más difíciles.

Tres papers de arXiv examinan métodos de autodestilación para entrenar agentes basados en modelos de lenguaje con recompensas escasas de aprendizaje por refuerzo. AgentOPSD propone un método recursivo sin crítico para la asignación de crédito a nivel de turno y reporta evaluaciones en ALFWorld, WebShop y Search-QA usando modelos Qwen2.5 de 3B y 7B. OCSD propone contrastar vistas de repetición completas y con observaciones eliminadas para aislar la supervisión de observaciones futuras, mientras que un paper separado sostiene que los profesores condicionados por información privilegiada pueden reducir la pérdida por token sin mejorar, y a menudo degradando, la precisión de validación en tareas más difíciles.

Pruébalo hoy

Antes de adoptar autodestilación al estilo OPSD, valida en tareas agénticas difíciles y reservadas, y mide la precisión en la tarea, no solo la pérdida por token.

Fuentes y cobertura original

Este resumen sintetiza y enlaza la cobertura de los medios siguientes.

¿Te gustó este resumen? Recibe el próximo en tu correo.

Más en Investigación