LG 发布 K-EXAONE 2.0:750B 参数 MoE 架构,支持 256K 上下文

LGAI-EXAONE · hf · 2026-08-06

LG AI Research 发布了多语言基础模型 K-EXAONE 2.0 的技术报告。该模型并未从零开始训练,而是通过架构扩展与升级循环利用了前代模型,最终形成了一个总参数量达 750B、每次推理激活约 37B 参数的混合专家模型,其容量是前代的三倍以上。

K-EXAONE 2.0 支持最高 256K 的上下文长度,并将多语言覆盖范围从 6 种扩展至 10 种。其训练流程结合了持续预训练、难度聚焦的中期训练与后训练,显著增强了推理、智能体编码、多语言能力以及基于韩国社会文化背景的安全性。评测显示,该模型在智能体编码和长上下文理解方面取得了最大进步。模型已基于 Apache 2.0 协议开源。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →