GLM-5.3-Flash 推出 DFlash 2,投机解码提速 2.8 倍
Lianhuiq · x · 2026-08-28
Inco AI 发布了 GLM-5.3-Flash 的 DFlash 2 草稿模型,通过 speculative decoding(投机解码)技术将推理速度提升了 2.8 倍。该模型采用 block-diffusion 机制,单次通过预测整块 token 并保留每个位置的最佳候选,使用双击动态卷积保持草稿质量。实测基于 SGLang 和 NVIDIA GB300,配置了 8 的推测块大小,且解码过程无损,贪婪采样结果与目标模型完全一致。
所属事件:Inco AI 发布 DFlash 2 草稿模型,GLM-5.3-Flash 推理提速 2.8 倍(3 条相关)→
「Infra」频道最新
- 微软深度优化 Windows 迎接 Nvidia RTX Spark:两步装好本地 AI agent — tomwarren · 2026-10-15
- 微软联手Nvidia优化Windows,为RTX Spark Arm笔记本铺路 — The Verge AI · 2026-10-15
- 全球智能手机出货量暴跌 22%,创史上最大季度跌幅,元凶是 AI 抢内存 — Polymarket · 2026-10-15
- SK 海力士再跌 11%:已低于 2027 财年预期利润 3 倍市盈率 — JOBhakdi · 2026-10-15
- ASML 高管:「我们在欧洲一台光刻机都卖不出去」 — NinaDSchick · 2026-10-15
- Nvidia 将 SPCX 归入「超大规模」类,云厂商依赖度暗藏变数 — RihardJarc · 2026-10-15