Moonshot 发布 Kimi K3:2.8T MoE 和 100 万上下文
burny_tech · x · 2026-07-28
Kimi K3 发布:2.8T MoE,原生视觉理解,1M 上下文
Moonshot 官方发布了 Kimi K3 的模型权重和技术报告,称其为目前最强模型。核心规格包括:2.8T MoE 架构、原生视觉理解、以及 100 万 token 上下文窗口。官方还强调新架构带来的是“单位算力 2.5 倍智能提升”,重点不只是堆参数,而是提升效率。
更值得注意的是,Moonshot 同步开放了 K3 背后的部分技术栈,包括高性能 attention kernel、MoE 通信库,以及面向大规模 agent 环境运行的基础设施。转述里还提到该模型采用非常激进的稀疏化:大约 2% 激活率,也就是 896 个专家里只激活 16 个。
所属事件:月之暗面发布2.8T参数开源模型Kimi K3(138 条相关)→
「Infra」频道最新
- Qwen3.6-27B 量化版先测权重组再压缩 — enginetown · 2026-07-28
- 冻结 12B 通过验证记忆复用答案,零 token 运行 — Corbenci · 2026-07-28
- OpenAI 预计 7500 亿美元算力投入,Anthropic 租算力策略承压 — remybigot · 2026-07-28
- AMD、SGLang 和 Moonshot 联动交付,芯片战转向基础设施 — AnushElangovan · 2026-07-28
- 用户称 GPT-5.4、Opus 4.6 和 Kimi k3 已够用 — haider1 · 2026-07-28
- Fast-plate-ocr 用 Keras 3 和 ONNX 做轻量车牌识别 — tom_doerr · 2026-07-28