Forscher testen OPD² für mehrsprachiges mathematisches Schlussfolgern
Die Qwen3-Experimente zeigen gegenüber OPD Zugewinne bei Mathematikaufgaben auf Englisch, Koreanisch und Japanisch.
Warum es wichtig ist
Die Ergebnisse deuten darauf hin, dass distillationsbasiertes Post-Training mehrsprachiges Schlussfolgern verbessern kann, ohne sich ausschließlich auf Reinforcement Learning zu stützen. Sie unterstreichen auch, wie wichtig mehrsprachige Trainingsdaten sind, wenn eine zuverlässige Ausgabe in der Zielsprache zählt.
Die Kernpunkte
- 1.OPD² nutzt die Wahrscheinlichkeitslücke zwischen Teacher und Basismodell als Lernsignal.
- 2.Qwen3-Experimente zeigen stärkere Zugewinne auf Koreanisch und Japanisch.
- 3.Rein englischsprachige OPD kann nicht englischsprachige Antworten in Richtung Englisch verschieben.
Ein neues arXiv-Paper untersucht On-Policy Distillation und On-Policy Delta Distillation, kurz OPD², für mathematisches Schlussfolgern auf Englisch, Koreanisch und Japanisch. Mit Qwen3 berichten die Autoren, dass OPD² die klassische OPD durchweg übertrifft, mit besonders deutlichen Verbesserungen auf Koreanisch und Japanisch, und die Leistungslücke zwischen Englisch und Koreanisch insgesamt verkleinert. Zudem stellen sie fest, dass rein englischsprachige OPD die Leistung auf Koreanisch und Japanisch verbessern kann, Antworten aber stärker in Richtung Englisch verschieben kann.
⚡ Heute ausprobieren
Nutzen Sie mehrsprachige Trainingsdaten, wenn Sie OPD-ähnliches Post-Training für nicht englischsprachige Reasoning-Aufgaben anwenden.
Quellen & Originalberichte
Dieser Brief fasst die Berichterstattung der folgenden Medien zusammen und verlinkt sie.
Hat dir dieses Briefing gefallen? Erhalte das nächste per Mail.
Mehr in Forschung
DistilVDR komprimiert die visuelle Dokumentensuche
Der Retriever mit 524 Millionen Parametern nutzt bilaterale Destillation von einem 8B-Vision-Language-Lehrmodell.
Google testet AMIE für medizinische Videokonsultationen in Echtzeit
Das auf Gemini basierende Forschungssystem wurde in simulierten Telemedizin-Konsultationen evaluiert.
Anthropic-Modell bringt Arbeit an der Riemannschen Vermutung voran
Ein unveröffentlichtes Anthropic-Modell hat Fortschritte bei dem seit Langem ungelösten mathematischen Problem erzielt, berichtete TechCrunch.