Kimi K3 发布:93 层架构,潜 MoE 替代标准 MoE
hugobowne · x · 2026-07-29
Kimi K3 权重昨日发布,Sebastian Raschka 迅速分析其架构:
- 93 层(Kimi Linear 仅 27 层)
- 用潜 MoE(Latent MoE)替代标准 MoE
- Raschka 总结:"基本上是 Kimi Linear 的放大版,加上潜 MoE"
完整对话见视频链接。
所属事件:Kimi K3 公开后焦点转向架构(25 条相关)→
「模型」频道最新
- Reflection AI 开源 Beam:Apache 2.0 权重+40 余家生态伙伴 — zhyncs42 · 2026-10-16
- 为何 15B 以下开源模型越来越少见?大厂默契卡在 24-27B — Hot_Example_4456 · 2026-10-16
- 网友观察到模型自生成「理想回答」用于训练其他模型 — liminal_bardo · 2026-10-16
- Reflection 开源 Beam-1.0:501B 总参 MoE,1M 上下文,推理 token 省 3 倍 — jacek2023 · 2026-10-16
- Reflection Beam 501B MoE 登陆 GB200:单用户 463 tok/s — zhyncs42 · 2026-10-16
- 单卡 24GB 跑 Gemma 4 31B QAT:4090 上 46 tok/s,加草稿模型达 80 — Subject_Poet_3861 · 2026-10-16