Moonshot 发布 Kimi K3:2.8T MoE 和 100 万上下文

burny_tech · x · 2026-07-28

Kimi K3 发布:2.8T MoE,原生视觉理解,1M 上下文

Moonshot 官方发布了 Kimi K3 的模型权重和技术报告,称其为目前最强模型。核心规格包括:2.8T MoE 架构、原生视觉理解、以及 100 万 token 上下文窗口。官方还强调新架构带来的是“单位算力 2.5 倍智能提升”,重点不只是堆参数,而是提升效率。

更值得注意的是,Moonshot 同步开放了 K3 背后的部分技术栈,包括高性能 attention kernel、MoE 通信库,以及面向大规模 agent 环境运行的基础设施。转述里还提到该模型采用非常激进的稀疏化:大约 2% 激活率,也就是 896 个专家里只激活 16 个。

所属事件:月之暗面发布2.8T参数开源模型Kimi K3(138 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →