Tom Yeh 发布 Kimi 3 研讨会录像,Nathan Lambert 做嘉宾
ProfTomYeh · x · 2026-09-21
Prof. Tom Yeh 上传了 Kimi 3 前沿模型研讨会(8 月 6 日举办)的完整录像,延续其「用 Excel 手推模型数学」系列风格。
要点:
- 嘉宾为《Interconnects》作者、开源模型领域权威 Nathan Lambert(其 RLHF 书籍刚由 Manning 出版),他分享了访问 Moonshot AI 的幕后见闻。
- 主线是从 Linear Attention、DeltaNet 一路讲到 Kimi 3 采用的最新 Kimi Delta Attention(KDA),梳理线性 Transformer 路线的演进。
- 内容涵盖访谈讨论、Moonshot AI 之行、开源 vs 闭源模型、观众 Q&A,以及用 LeBron James 类比讲解注意力机制等。
- 该系列此前还讲过 DeepSeek mHC、Qwen 3.6、Gemma 4、Google Ironwood TPU 等专题。
「模型」频道最新
- 260 万美元 RL 就近 SOTA:数据成本会否超过训练成本? — my_cat_can_code · 2026-09-21
- 模仿人类社交节奏：humansand 发布 Persimmon 模型与 Trickle Test — niloofar_mire · 2026-09-21
- 为什么让 LLM 回「是/否」更快：输出 token 越少越快 — tinyfool · 2026-09-21
- 曝 ChatGPT 免费用户获无限文本对话,默认模型同步升级 — nikola_mr64990 · 2026-09-21
- 用户吐槽 Astra 太贵太耗 token,盼 GPT-6 降本 — CtrlAltDwayne · 2026-09-21
- TypeSafe JEV 模型全量开放:每人 5 美元免费额度,秒级搭 3D 场景 — tinyfool · 2026-09-21