LG AI Research 发布 K-EXAONE 2.0 报告
这款开放权重的多语言 MoE 模型总参数量达 750B,支持 256K token 上下文。
为什么重要
K-EXAONE 2.0 为行业又增添了一款大型开放权重多语言模型,尤其强调长上下文检索、编程能力以及韩国社会文化安全性。其 Apache 2.0 许可证为研究人员和开发者评估与适配前沿规模 MoE 系统提供了更大空间。
核心要点
- 1.750B 参数 MoE 每个 token 约激活 37B 参数。
- 2.上下文支持扩展至 256K token。
- 3.Apache 2.0 许可证允许广泛评估和适配。
LG AI Research 发布了 K-EXAONE 2.0 的技术报告。这是一款基于 K-EXAONE 升级而来的开放权重多语言基础模型。该模型采用 Mixture-of-Experts 架构,总参数量为 750B,每个 token 约激活 37B 参数,支持最高 256K token 的上下文长度,并将语言覆盖范围从六种扩展到十种。报告称,K-EXAONE 2.0 在九大评测类别中均较前代有所提升,其中在智能体编程和长上下文理解方面进步最大。
⚡ 今天就能用
在考虑将 K-EXAONE 2.0 用于生产环境之前,应先针对长上下文检索、多语言和编程工作负载进行评估。
来源与原始报道
本简报汇总并链接到以下媒体的报道。
觉得这篇简报有用?下一篇直接送到你的邮箱。