教授将手推Kimi 3大模型架构，解析极端稀疏MoE
ProfTomYeh · x · 2026-08-02
Tom Yeh 教授预告了最新一期的「AI by Hand」系列研讨会，主题聚焦前沿大模型架构。本次讲座将重点解析 Kimi 3（月之暗面）的核心技术，包括 Kimi Delta Attention、注意力残差以及极端 MoE 稀疏性（在2.8万亿参数中仅激活896个专家中的16个）。此外还将涵盖 Google Gemma 4 和阿里 Qwen 3.6 的架构优化细节。
「研究」频道最新
- 新评测探索：AI自创问题引发多模型答案分歧 — HazanPrinceton · 2026-08-02
- 仅用 30 秒视频，新 AI 学会了跑酷 — Two Minute Papers · 2026-08-02
- 物理学家用冷原子造“微型宇宙”，实验验证时间起源 — skdh · 2026-08-02
- 多智能体 AI 综合分析 5100 篇论文，揭示长新冠机制 — alvelda · 2026-08-02
- 提出Jeffreys-Fisher-Rao中心：快速逼近对称KL散度质心 — FrnkNlsn · 2026-08-02
- 研究：真实 AI 使用量正重塑股市，高 AI 敏感度公司回报更高 — rohanpaul_ai · 2026-08-02