Pesquisadores ampliam a destilação on-policy entre modelos de IA

Vários artigos de pesquisa novos e atualizados propõem variantes da destilação on-policy, um método de pós-treinamento que usa sinais de professores em trajetórias geradas pelo aluno. Os trabalhos abordam diferentes modos de falha: professores multimodais conflitantes, supervisão espúria em nível de token, famílias incompatíveis de modelos de geração de imagens, modelos de fluxo com múltiplos professores, cascatas de chamadas de ferramentas em agentes pequenos e treinamento agentivo multi-turno de horizonte longo. Entre os métodos propostos estão OPOD, SA-OPD, Any-OPD, Poly-OPD, SOD e ATOD.