Moonshot Kimi K3 长上下文路线遭质疑：1M 扩展成焦点
teortaxesTex · x · 2026-07-21
这条讨论聚焦 Kimi K3 / Moonshot 的长上下文路线是否走对了：作者认为 Moonshot 在 2024 年 3 月就已经做到 200 万上下文，但在 R1 之后转向 MLA，可能在 26.2 万以上的超长上下文扩展上并不理想，进一步追问 KDA 是否真能像 CSA+HCA 一样顺利扩到 100 万。
配图里还展示了 Kimi K3 的结构示意，包括 Stable LatentMoE、Gated MLA、KDA 以及 Kimi Delta Attention 主干。整条讨论把“长上下文”类比成 AI 时代的 RAM，并引申出一个观点：真正的优势未必只是模型本身，也可能是围绕这条路线的组织能力。
「模型」频道最新
- 有人要建全模型基准分数汇总页 — airesearch12 · 2026-09-11
- 爆料称 Kimi 疑似转发 Claude 冒充自家成绩，DeepSeek 新模型评测反超 — realsohamparekh · 2026-09-11
- 网友吐槽 GPT-5.6 文笔好读但缺乏记忆点 — BasedRaddka · 2026-09-11
- Opus 以"安全"为由拒碰蛋白质生成代码,开发者吐槽误伤 — josephdviviano · 2026-09-11
- 网友称 DeepSeek 4.1 Flash 是语言模型历史拐点(未证实) — himanshustwts · 2026-09-11
- Terminal Bench v4 榜单:GLM-5.3 以 41.9% 一骑绝尘 — Ok_Warning2146 · 2026-09-11