研究Fri, August 7, 2026·Aug 72 sources corroborating

OPD²、Qwen3で多言語の数学推論を改善

arXiv論文は、英語・韓国語・日本語の数学推論におけるオンポリシー・デルタ蒸留を検証している。

なぜ重要か

この研究は、多言語推論モデルのポストトレーニングにおいて、蒸留が強化学習の代替手段になり得ることを示している。同時に、多言語データなしでクロスリンガル性能を高めると、対象言語での応答品質が損なわれるという実務上のリスクも浮き彫りにしている。

要点

1.OPD²は、teacherとbaseの確率差を学習シグナルとして用いる。
2.Qwen3での実験では、韓国語と日本語でより大きな改善が示された。
3.英語のみのOPDは、非英語の出力を英語寄りにシフトさせる可能性がある。

研究者らは、多言語の数学推論に向けたLLMのポストトレーニング手法として、オンポリシー蒸留の一種であるOn-Policy Delta Distillation（OPD²）を提案した。Qwen3を用いた英語・韓国語・日本語での実験では、OPD²が従来のOPD手法を一貫して上回り、とりわけ韓国語と日本語で大きな改善が見られた。また、英語のみのOPDでも韓国語と日本語の性能は向上し得る一方、回答が英語寄りになる可能性があることも示された。

⚡ 今日から使える

OPD型のポストトレーニングを適用する際は、対象言語での応答を維持するために多言語の訓練データを使うべきだ。

#opd #distillation #multilingual #qwen3 #math-reasoning

出典・一次報道

本記事は以下の媒体の報道を要約し、リンクしています。

この記事が役に立ちましたか？次号をメールでお届けします。

OPD²、Qwen3で多言語の数学推論を改善

なぜ重要か

要点

⚡ 今日から使える

出典・一次報道

関連：研究

研究者ら、トラックとドローンの配送経路問題「TTP-D」を提案

監査・修復の文脈でLLMチェッカーがより寛容になるとの研究結果

AlphaEvolve、行列乗算の上界を引き下げ

なぜ重要か

要点

⚡ 今日から使える

出典・一次報道

関連： 研究

研究者ら、トラックとドローンの配送経路問題「TTP-D」を提案

監査・修復の文脈でLLMチェッカーがより寛容になるとの研究結果

AlphaEvolve、行列乗算の上界を引き下げ

関連：研究