MiLMMT 团队发布免参考翻译模型
MiLMMT-46-v1.0 通过 GRPO 和 checkpoint 插值提升开放多语言翻译能力。
为什么重要
这项工作表明,免参考奖励可以在不依赖每个语言对人工参考译文的情况下提升多语言翻译能力。它还为研究人员提供了开放模型和代码,用于测试基于 RL 的翻译后训练方法。
核心要点
- 1.免参考 GRPO 提升了 MiLMMT 在 46 种语言上的表现。
- 2.研究显示,checkpoint 插值优于 on-policy distillation。
- 3.模型和代码已发布,供研究使用。
研究人员发布了 MiLMMT-46-v1.0,这是一个开放的多语言机器翻译模型系列,基于 MiLMMT-46-v0.1 进行免参考后训练构建。该方法使用两种免参考质量评估模型提供奖励,并通过语言识别进行门控来应用 GRPO,随后对 SFT 和 RL checkpoint 进行线性插值。在 46 种语言上,这些模型相较各自的 SFT 版本均有提升,超过了文中引用的 Seed-X、HY-MT2 和 TranslateGemma 等开放基线,并在与评估的专有系统对比中取得领先的免参考评分。
⚡ 今天就能用
在选择开放多语言翻译基线前,先评估 MiLMMT-46-v1.0 及其已发布代码。
来源与原始报道
本简报汇总并链接到以下媒体的报道。
- arXiv cs.AIWhen the API Speaks the Wrong Language: Revisiting Post-Training for Multilingual Tool UseAug 13, 12:00 PM↗
- arXiv cs.CLWhen the API Speaks the Wrong Language: Revisiting Post-Training for Multilingual Tool UseAug 13, 12:00 PM↗
- arXiv cs.AIReference-Free Post-Training of Open Large Language Models for Multilingual Machine TranslationAug 12, 12:00 PM↗
- arXiv cs.CLReference-Free Post-Training of Open Large Language Models for Multilingual Machine TranslationAug 12, 12:00 PM↗
- arXiv cs.CLReference-Free Post-Training of Open Large Language Models for Multilingual Machine TranslationAug 12, 12:00 PM↗
- arXiv cs.CLEmbedding Initialization for Unseen Low-resource Languages in Multilingual NMT: A Case Study on Limbum-English TranslationAug 11, 12:00 PM↗
- arXiv cs.LGEmbedding Initialization for Unseen Low-resource Languages in Multilingual NMT: A Case Study on Limbum-English TranslationAug 11, 12:00 PM↗
- HF Daily PapersReference-Free Post-Training of Open Large Language Models for Multilingual Machine TranslationAug 11, 4:00 AM↗
觉得这篇简报有用?下一篇直接送到你的邮箱。