Ling-3.0 混合架构曝光：原生支持 256K 上下文
SonglinYang4 · x · 2026-07-24
AntLingAGI 透露了 Ling-3.0 模型的最新架构细节，该模型采用了原生混合线性注意力机制。
核心设计在于将 KDA（细粒度长程记忆控制）与 MLA 层以 5:1 的比例进行堆叠。这种混合架构不仅优化了长文本处理能力，还通过 1/64 的专家激活率大幅提升了 MoE（混合专家）的计算效率。
据称，Ling-3.0 原生支持 256K 的上下文长度，并且具备进一步扩展至 1M 的潜力。
「模型」频道最新
- Agent Astra 在 GauntletBench 得 83%,成首个超人类基线的电脑操作 Agent — ducha_aiki · 2026-09-11
- Kimi K2.8 Preview 上线：性能接近 K3、1M 上下文全档开放 — teortaxesTex · 2026-09-11
- 有人想给软件工程任务建「形态分类」数据库,好按任务选模型 — StewartalsopIII · 2026-09-11
- 用户呼声下 DeepSeek V4 Pro API 宣布继续服务,计费不变 — teortaxesTex · 2026-09-11
- 第三方实测:DeepSeek V4.1 Flash 达 GPT-6 Astra 98% 分,成本仅 1.4% — ayushtweetshere · 2026-09-11
- TheZhi 发起调查:Fable 5.1 与 Astra 发布后,编码模型选择变了吗 — TheZvi · 2026-09-11