LiquidAI lança checkpoints Q4_0 para o LFM2.5
Os arquivos GGUF usam destilação consciente de quantização para reduzir a perda de qualidade em modelos LFM2.5 de 4 bits.
Por que importa
O lançamento mira a implantação em dispositivos de borda, onde modelos de 4 bits podem reduzir o uso de memória e melhorar a vazão, mas muitas vezes perdem precisão. Checkpoints quantizados melhores podem tornar pequenos modelos locais mais práticos para raciocínio, seguimento de instruções, uso de ferramentas e tarefas agênticas.
Pontos-chave
- 1.Quatro checkpoints GGUF LFM2.5 QAD Q4_0 estão disponíveis no Hugging Face.
- 2.A LiquidAI relata retenção de cerca de 96,5% a 97,4% em relação à linha de base BF16.
- 3.Os arquivos miram runtimes de inferência local e em borda compatíveis com GGUF.
A LiquidAI lançou checkpoints GGUF Q4_0 atualizados para LFM2.5-230M, LFM2.5-350M, LFM2.5-1.2B-Instruct e LFM2.5-2.6B no Hugging Face. A empresa afirma que os arquivos foram treinados com destilação consciente de quantização e mantêm o consumo de memória e a vazão dos GGUFs Q4_0 nativos. Em sua suíte de benchmarks, a LiquidAI informou que os checkpoints preservaram cerca de 96,5% a 97,4% do desempenho da linha de base correspondente em BF16.
⚡ Experimente hoje
Teste os GGUFs QAD Q4_0 no llama.cpp ou em outro runtime compatível com GGUF se você implanta o LFM2.5 em hardware de borda.
Fontes e reportagens originais
Este resumo sintetiza e linka a cobertura dos veículos abaixo.
Gostou deste resumo? Receba o próximo no seu e-mail.
Mais em Modelos
Benchmarks do GLM-5.3 geram debate entre desenvolvedores
Benchmarks da Artificial Analysis para o GLM-5.3 circularam no Hacker News e no r/LocalLLaMA.
Qwen3.8 27B marca 52 no Artificial Analysis
Usuários do Reddit e do Hacker News chamaram atenção para o desempenho do modelo no Artificial Analysis e no ranking agentic.
Your AI Slop Bores Me deixa humanos encenarem chatbots
O jogo web faz usuários responderem prompts manualmente, ganhando créditos ao assumir o papel da IA.