LiquidAI publie des checkpoints Q4_0 pour LFM2.5
Les fichiers GGUF utilisent une distillation tenant compte de la quantification afin de limiter la perte de qualité dans les modèles LFM2.5 en 4 bits.
Pourquoi c'est important
Cette publication vise le déploiement en périphérie, où les modèles 4 bits peuvent réduire l’usage mémoire et améliorer le débit, mais perdent souvent en précision. De meilleurs checkpoints quantifiés pourraient rendre les petits modèles locaux plus pratiques pour le raisonnement, le suivi d’instructions, l’utilisation d’outils et les tâches agentiques.
Points clés
- 1.Quatre checkpoints GGUF LFM2.5 QAD Q4_0 sont disponibles sur Hugging Face.
- 2.LiquidAI annonce une conservation d’environ 96,5 % à 97,4 % des performances de référence BF16.
- 3.Les fichiers ciblent les runtimes d’inférence locaux et en périphérie compatibles GGUF.
LiquidAI a publié sur Hugging Face des checkpoints GGUF Q4_0 mis à jour pour LFM2.5-230M, LFM2.5-350M, LFM2.5-1.2B-Instruct et LFM2.5-2.6B. L’entreprise affirme que ces fichiers ont été entraînés avec une distillation tenant compte de la quantification et qu’ils conservent l’empreinte mémoire et le débit des GGUF Q4_0 natifs. Dans sa suite de benchmarks, LiquidAI indique que les checkpoints ont préservé environ 96,5 % à 97,4 % des performances de référence BF16 correspondantes.
⚡ À tester aujourd'hui
Testez les GGUF QAD Q4_0 dans llama.cpp ou dans un autre runtime compatible GGUF si vous déployez LFM2.5 sur du matériel en périphérie.
Sources et articles originaux
Ce brief résume et renvoie vers la couverture des médias ci-dessous.
Ce brief vous a plu ? Recevez le prochain par e-mail.
Plus dans Modèles
Les benchmarks de GLM-5.3 alimentent les discussions chez les développeurs
Les benchmarks d’Artificial Analysis pour GLM-5.3 ont circulé sur Hacker News et r/LocalLLaMA.
Qwen3.8 27B obtient un score de 52 sur Artificial Analysis
Des utilisateurs de Reddit et Hacker News ont relevé les résultats du modèle sur Artificial Analysis et son classement agentique.
Your AI Slop Bores Me permet aux humains de jouer les chatbots
Dans ce jeu web, les utilisateurs répondent manuellement à des prompts et gagnent des crédits en incarnant l’IA.