Moonshot 开源 Kimi K3，激活参数达 104B、上下文 100 万 token
teortaxesTex · x · 2026-07-27
Moonshot 公布了 Kimi K3 的开源权重与技术报告，核心卖点是：
- 2.8T MoE 架构
- 104B activated parameters
- 原生视觉理解
- 1M token 上下文窗口
配图里的模型摘要还给出了更多结构细节：93 层、896 个 experts、每个 token 选 16 个 experts，注意力层由 69 层 KDA + 24 层 Gated MLA 组成。官方同时表示，这次不只开放模型，还把高性能 attention kernels、MoE 通信库，以及面向 agent 环境的大规模运行基础设施一起开出来。
所属事件:Moonshot 发布 Kimi K3 开放权重引争议(155 条相关)→
「模型」频道最新
- 用 LLM 研究 4 小时创业点子，产出的却是一套 nonsense 产品论 — annetgriffin · 2026-10-27
- 开发者吐槽 Claude 烧 token：同样工作 GPT 省 3 倍用量更便宜 — haider1 · 2026-10-27
- 非刷榜评测中 MiniMax 表现比肩 Claude 4.5,引发社区关注 — teortaxesTex · 2026-10-27
- 实测算账：GPT-6.1 Terra 半价却更费 token，反而比 Sol 更贵 — lordpuddingcup · 2026-10-27
- 爆料称 Fable 5.5 大概率本周内发布 — kimmonismus · 2026-10-27
- GPT 6.1 Terra 对比 Sonnet 5.5：速度性价比与智能能力之争 — teortaxesTex · 2026-10-27