Liquid AI、ローカルエージェント向けにLFM2.5-2.6Bを公開
26億パラメータのモデルは、オンデバイスでのツール利用、ワークフロー、プライベートなローカル推論を想定している。
なぜ重要か
今回の公開は、プライバシー、レイテンシー、コスト管理を理由に、エージェント型ワークロードをクラウドAPIからローカルハードウェアへ移そうとする圧力が続いていることを示している。同社がうたうツール利用と指示追従の性能は、小型ローカルモデルをエッジ環境のエージェント展開でより実用的な選択肢にする可能性がある。
要点
- 1.Liquid AIはHugging FaceでLFM2.5-2.6Bとベースモデルを公開した。
- 2.このモデルは、ツール呼び出しと複数ステップのワークフローを備えたオンデバイスエージェントを想定している。
- 3.llama.cpp、MLX、vLLM、SGLang、ONNXをサポートしている。
Liquid AIはHugging FaceでLFM2.5-2.6Bを公開し、エージェントを完全にオンデバイスで動かすための小型モデルと位置づけた。このモデルはツール呼び出しと複数ステップのワークフローに対応し、128Kのコンテキストウィンドウを備えるほか、ベース版も提供されている。Liquid AIによると、llama.cpp、MLX、vLLM、SGLang、ONNXをサポートし、ブラウザ向けのWebGPUデモも利用できる。
⚡ 今日から使える
ツール利用の多いワークフローで大型のクラウドモデルを使う前に、手元のローカルエージェント環境でLFM2.5-2.6Bを試すべきだ。
出典・一次報道
本記事は以下の媒体の報道を要約し、リンクしています。
この記事が役に立ちましたか？次号をメールでお届けします。
関連： モデル
モデル
OpenAI、サイバー分野向けに訓練した新AIモデルを発表
同社はサイバーセキュリティ防御プログラム「Daybreak」を、新モデルで拡充する。
TechCrunch AI·1d ago
モデル
Meta、オープンウェイトモデル軸にAI戦略を再始動
MetaはMuse Glimmerを発表し、今後数週間以内にMuse Spark 1.2のウェイトを公開する計画を明らかにした。
Ars Technica AI+1 outlet·1d ago
モデル
Meta、ローカルエージェント向けワークフロー用にMuse Glimmerを公開
30Bのオープンウェイトモデルは、マルチモーダル入力と4ビット量子化に対応し、オンデバイスのエージェント利用を狙う。
r/LocalLLaMA+2 outlets·1d ago