Moonshot 开源 Kimi K3，激活参数达 104B、上下文 100 万 token
teortaxesTex · x · 2026-07-27
Moonshot 公布了 Kimi K3 的开源权重与技术报告，核心卖点是：
- 2.8T MoE 架构
- 104B activated parameters
- 原生视觉理解
- 1M token 上下文窗口
配图里的模型摘要还给出了更多结构细节：93 层、896 个 experts、每个 token 选 16 个 experts，注意力层由 69 层 KDA + 24 层 Gated MLA 组成。官方同时表示，这次不只开放模型，还把高性能 attention kernels、MoE 通信库，以及面向 agent 环境的大规模运行基础设施一起开出来。
所属事件:Moonshot 开源 Kimi K3：2.8T 参数与千万美元商业门槛(148 条相关)→
「模型」频道最新
- 回复称下一版 Codex 可能周二发布，Cerebras 也将跟进 — eyishazyer · 2026-07-28
- Kimi K3 权重刚发布几小时，就引出一场混合架构与 Agent 讨论 — hugobowne · 2026-07-28
- 有人认为 Anthropic 只是在模型领先上略占薄边 — intellectronica · 2026-07-28
- Google Gemma 4 Vision 的 token budget 演示在 Hugging Face 走红 — google · 2026-07-28
- 作者称 GPT 5.6 Ultra 做 Agent 过于不稳定 — tensorqt · 2026-07-28
- SimpleQA 实测里 Firecrawl 以 94.7% 领先 Exa 和 Claude 搜索 — Candid-Dog-775 · 2026-07-28