LiquidAI、LFM2.5向けQ4_0チェックポイントを公開
GGUFファイルは量子化対応蒸留を用い、4-bit版LFM2.5モデルでの品質低下を抑える。
なぜ重要か
今回のリリースはエッジ展開を見据えたものだ。4-bitモデルはメモリ使用量を減らし、スループットを高められる一方で、精度が落ちやすい。より高品質な量子化チェックポイントは、推論、指示追従、ツール利用、エージェント型タスクにおいて、小規模なローカルモデルをより実用的にする可能性がある。
要点
- 1.4つのLFM2.5 QAD Q4_0 GGUFチェックポイントがHugging Faceで利用可能になった。
- 2.LiquidAIは、BF16ベースラインの約96.5%から97.4%の性能保持を報告している。
- 3.これらのファイルは、GGUF対応のローカルおよびエッジ推論ランタイムを対象としている。
LiquidAIは、LFM2.5-230M、LFM2.5-350M、LFM2.5-1.2B-Instruct、LFM2.5-2.6B向けの更新版Q4_0 GGUFチェックポイントをHugging Faceで公開した。同社によると、これらのファイルは量子化対応蒸留で学習されており、ネイティブQ4_0 GGUFと同等のメモリ使用量とスループットを維持する。LiquidAIは自社のベンチマークスイートで、各チェックポイントが対応するBF16ベースライン性能のおよそ96.5%から97.4%を保持したと報告している。
⚡ 今日から使える
エッジハードウェアでLFM2.5を展開しているなら、llama.cppやその他のGGUF対応ランタイムでQAD Q4_0 GGUFを試す価値がある。
出典・一次報道
本記事は以下の媒体の報道を要約し、リンクしています。
この記事が役に立ちましたか？次号をメールでお届けします。
関連： モデル
GLM-5.3のベンチマークが開発者の議論を呼ぶ
Artificial AnalysisによるGLM-5.3のベンチマークが、Hacker Newsとr/LocalLLaMAで共有された。
Qwen3.8 27B、Artificial Analysisで52点を記録
RedditとHacker Newsのユーザーが、このモデルのArtificial Analysisでの結果とエージェント性能ランキングに注目した。
「Your AI Slop Bores Me」は人間にチャットボット役を演じさせる
このWebゲームでは、ユーザーが手作業でプロンプトに答え、AI側を演じることでクレジットを獲得する。