SGLang 24 小时适配 DeepSeek V4.1 Flash 达 873 tok/s
SGLang 团队宣布为 DeepSeek V4.1 Flash 提供 Day 0 支持,并在模型发布后 24 小时内将推理性能推至 4×GB300 上单批次(BS=1)873 tok/s,同时发布了详细的适配指南供开发者参考。
2026-09-12 ~ 2026-09-12 · 2 条相关
- 第 1 集:DeepSeek V4.1 Flash 限时内测：新架构原生多模态(2026-09-08,18 条)
- 第 2 集:DeepSeek V4.1 Flash实测：极速350 tokens/s但偏实验性(2026-09-08,2 条)
- 第 3 集:DeepSeek V4-Flash 降价并改峰谷计费，9 月 10 日生效(2026-09-08,6 条)
- 第 4 集:DeepSeek V4.1 Flash 多方实测：近前沿性能，成本仅 1.4%~3.5%(2026-09-09,15 条)
- 第 5 集:DeepSeek 开源发布 V4.1 Flash，超旗舰低价引热议(2026-09-09,57 条)
- 第 6 集:DeepSeek V4.1 系列爆料汇总：552B 架构对标 GPT-5.6(2026-09-10,21 条)
- 第 7 集:DeepSeek V4.1 Flash 评测跑分流出，社区热议实测表现(2026-09-10,2 条)
- 第 8 集:DeepSeek 九个月将 KV 缓存压缩 54 倍至亚 KB 水平(2026-09-10,6 条)
- 第 9 集:传 DeepSeek 新模型成开源之王：碾压 GLM、Kimi 且便宜 4-10 倍(2026-09-10,3 条)
- 第 10 集:Bug Hunt Bench 横评 105 个真实 bug,DeepSeek V4.1 Flash 性价比亮眼(2026-09-10,13 条)
- 第 11 集:DeepSeek V4.1 Flash 确认以 YOCO 为灵魂(2026-09-10,7 条)
- 第 12 集:DeepSeek V4.1 Flash 技术报告流出：全链路死磕 KV cache 压缩(2026-09-11,42 条)
- 第 13 集:DeepSeek V4.1 Flash 登顶 Vals 开源榜，成本仅 0.3 美元(2026-09-11,2 条)
- 第 14 集:DeepSeek V4.1 Flash 评测得 40 分，幻觉率上升仍领先开源(2026-09-11,2 条)
- 第 15 集:DeepSeek CED 与 GLM 的 KV 缓存复用机制解析(2026-09-11,4 条)
- 第 16 集:DeepSeek 发布 V4.1-Flash：原生视觉、百万上下文、KV 缓存缩小 4 倍(2026-09-11,3 条)
- 第 17 集:SGLang 24 小时适配 DeepSeek V4.1 Flash 达 873 tok/s(2026-09-12,2 条)
- SGLang 深度适配 DeepSeek V4.1 Flash，24 小时内冲到 873 tok/s — BanghuaZ · 2026-09-12
另有 1 条近重复转述:hsu_byron