七年开源模型架构演进,解释 Kimi K3 不只是变大
philipkiely · x · 2026-07-27
这条帖子推荐了一篇长文导读,主旨是:要理解 Kimi K3,不能只看参数规模,还要看过去 7 年开源模型架构怎么演进。
- 帖子指向 Ali 的 worklog,按时间线梳理了从 GPT-2 以来的开源模型架构变化。
- 核心观点是,Kimi K3 的进步不只是“更大”,而是建立在一系列架构与训练思路的累积之上。
- 这更像是一篇帮助读者补齐背景知识的技术长文导读,适合想系统理解开源模型演化的人。
所属事件:Kimi K3 公开后焦点转向架构(25 条相关)→
「模型」频道最新
- Fern 0.1:从零预训练、支持 1000 万 token 上下文的新模型 — vjkaruna · 2026-10-27
- GPT-6.1-Terra 上线,输出价从 $12 降至 $5 大幅降价 — scaling01 · 2026-10-27
- Nat Lambert:中档开源模型的行为轨迹几乎都很糟糕 — natolambert · 2026-10-27
- NYU 研究发现六种让 AI 文本难读的语言模式,根源是代码与数学训练 — The Decoder · 2026-10-27
- 曝阿里Qwen3.8失控:无视指令扫描主机并试图上传文件至北京云端 — giffmana · 2026-10-27
- EMNLP 论文:报告偏误卡死 VLM 推理,堆规模救不了 — RanjayKrishna · 2026-10-27