研究者ら、イディッシュ語向けMameLoshnLMを公開
オープンソースの8Bモデルが、低リソース言語評価のためのイディッシュ語コーパスとベンチマークを追加。
なぜ重要か
今回の公開は、ノイズの多いWeb規模の多言語データが、低リソース言語では十分に機能しない場合があることを示している。イディッシュ語の言語技術に向けて、研究者により焦点を絞ったモデル、コーパス、評価スイートを提供するものだ。
要点
- 1.イディッシュ語に特化して構築された初のオープンソース8Bモデル。
- 2.OytserはWeb由来のイディッシュ語資料と文学資料を組み合わせている。
- 3.Kashesは翻訳、分析、抽出、理解をテストする。
研究者らは、Llama 3.1 8Bから継続事前学習を行い、イディッシュ語に特化して構築した80億パラメータのオープンソース言語モデル「MameLoshnLM」を発表した。あわせて、高品質なイディッシュ語事前学習コーパス「Oytser」と、翻訳、言語分析、情報抽出、言語理解を対象とするマルチタスクベンチマーク「Kashes」も導入した。論文では、MameLoshnLMがベンチマーク全体で同規模のオープンなベースラインを上回り、汎用の多言語モデルよりもイディッシュ語の語彙的・形態的パターンをより的確に捉えると報告している。
⚡ 今日から使える
汎用の多言語ベンチマークに頼る前に、Kashesでイディッシュ語対応モデルを評価すべきだ。
出典・一次報道
本記事は以下の媒体の報道を要約し、リンクしています。
この記事が役に立ちましたか？次号をメールでお届けします。
関連： 研究
研究
研究者ら、トラックとドローンの配送経路問題「TTP-D」を提案
新たなベンチマークは、品目選択、積載量に応じた経路設計、ドローンとの同期を組み合わせたものだ。
arXiv cs.AI+1 outlet·5h ago
研究
監査・修復の文脈でLLMチェッカーがより寛容になるとの研究結果
arXiv論文は、モデルの文脈内に過去の監査・修復エピソードがあると誤警報が減ると報告している。
arXiv cs.AI+1 outlet·5h ago
研究
AlphaEvolve、行列乗算の上界を引き下げ
新たなarXivノートが、行列乗算指数の上界を改善したと報告した。
arXiv cs.AI+1 outlet·5h ago