Kimi K3 投机解码模型下载破 60 万,AMD MI355X 实测吞吐大增
bookwormengr · x · 2026-08-04
社区开发者发布的 Kimi-K3-DSpark 投机解码模型在 Hugging Face 上的下载量已突破 60 万次。
该模型专为 Kimi K3 打造，支持高达 100 万 tokens 的上下文。在 AMD MI355X 硬件上的实测显示，单流推理速度提升约 2.2 倍，峰值聚合吞吐量增加 18%。
技术细节方面，它基于 DFlash 并行草稿骨干并引入了马尔可夫 logit 偏置头。在 SWE-Rebench、GSM8K 等基准测试中，平均接受长度（acclen）达到 4.1 到 5.4 不等，即使在百万级 token 的超长上下文中也能保持约 4.2 的接受长度，显著优化了长文本推理效率。
「Infra」频道最新
- Node 22 用 node --run 替代 npm run 可省 48MB 内存 — DanielLockyer · 2026-08-04
- CoreWeave计划在印尼建设首批亚太数据中心，总功率360MW — dinabass · 2026-08-04
- DeepSeek V4 Flash 量化评测：IQ3_XXS 速度翻倍且无损质量 — Spicy_mch4ggis · 2026-08-04
- 解析 mxfp8 量化下的转置痛点与显存优化策略 — dejavucoder · 2026-08-04
- Bittensor 推出 SayGm：一个 API 密钥调用 38 个主流大模型 — bittingthembits · 2026-08-04
- 算力禁令或致数据中心建设放缓，光模块需求激增 — zephyr_z9 · 2026-08-04