Kimi K3技术报告深度解读：Delta Attention、专家平衡与AgentENV
noninertialframe96 · reddit · 2026-07-31
Moonshot发布的Kimi K3模型达到前沿水平，Artificial Analysis排名第四（仅次于Claude Opus 5、Fable 5、GPT-5.6 Sol）。技术报告亮点：
- Kimi Delta Attention：用128x128矩阵替代69/93层的KV缓存，1M token上下文仅需27.2 GiB（原104.6 GiB）。
- Quantile Balancing：896专家/层均匀负载，直接计算偏置而非固定步长。
- AgentENV：Firecracker微VM运行时，RL训练中创建5100万沙箱，检查点133ms，恢复49ms。
全文解读：https://codepointer.substack.com/p/how-kimi-k3-engineered-its-way-to
所属事件:Moonshot发布2.8T开源Kimi K3，首日推理破423 tok/s(7 条相关)→
「模型」频道最新
- Meta 开源 Muse Spark 权重，扎克伯格只能在 X 上感谢苹果 — AIFlow_ML · 2026-10-16
- Reddit 用户实测称 ChatGPT Pro 三档套餐用量上限几乎相同 — These-Breadfruit4067 · 2026-10-16
- 用户投诉 Gemini 记忆删不掉,关掉重开依然全记得 — ThrowRA_Purpose2025 · 2026-10-16
- 曝 OpenAI 暗测内部神秘模型 Aeon：已现身 Codex 桌面版用量面板 — cedric_chee · 2026-10-16
- 博主实测：argon 日常全面能打，但重度编码仍略逊 Claude — iruletheworldmo · 2026-10-16
- NVIDIA 发布 Qwen3.8-Flash FP4 量化版，主打本地部署 — nvidia · 2026-10-16