DeepSeek Flash 更换集群:TPS 从 189 升至 241,首 token 延迟下降

teortaxesTex · x · 2026-10-29

长期追踪 DeepSeek API 的用户观察到新 Flash checkpoint 的模型指纹发生变化,推断 Flash 已被迁移到另一个集群,推理速度明显提升。

配图为一个月前后的会话统计对比:TPS 从 189 tok/s 升至 241 tok/s,平均首 token 延迟(TTFT)从 2.9s 微升到 3.3s。作者推测 DeepSeek 负载近期大幅增加,可能采取 batch-maxxing(加大批处理)策略;并打趣称此前的卡顿「说明跑的不是 Blackwell」,暗示其算力并非最新 GPU。

所属事件:DeepSeek Flash 疑迁移新集群,推理速度显著提升(2 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →