月之暗面 Kimi K3 是 2.8 万亿参数的 MoE 模型
PeterDiamandis · x · 2026-07-29
Peter Diamandis 转述了 Moonshot AI 对 Kimi K3 的介绍：这是一款 2.8 万亿参数 的模型，但在每个 token 上只会激活 896 个专家中的 16 个。
这条帖子的重点不在营销口号，而在它反映出的架构思路：智能并不意味着每次计算都要动用全部参数。也就是说，大模型可以通过稀疏路由，只让少量专家参与单个 token 的计算，从而在规模和效率之间取得平衡。
所属事件:Kimi K3 公开后焦点转向架构(25 条相关)→
「模型」频道最新
- BullshitBench 榜单更新:GPT-6-Astra 领先历代 OpenAI 模型仍未及 Anthropic — scaling01 · 2026-09-11
- Agent Astra 在 GauntletBench 得 83%,成首个超人类基线的电脑操作 Agent — ducha_aiki · 2026-09-11
- Kimi K2.8 Preview 上线：性能接近 K3、1M 上下文全档开放 — teortaxesTex · 2026-09-11
- 有人想给软件工程任务建「形态分类」数据库,好按任务选模型 — StewartalsopIII · 2026-09-11
- 用户呼声下 DeepSeek V4 Pro API 宣布继续服务,计费不变 — teortaxesTex · 2026-09-11
- 第三方实测:DeepSeek V4.1 Flash 达 GPT-6 Astra 98% 分,成本仅 1.4% — ayushtweetshere · 2026-09-11