DeepSeek V4.1 Flash 1017 在 Vercel 跑出 1000 tok/s,家用 4x3090 也能到 65

AccBalanced · x · 2026-11-09

Vercel AI Gateway 上线 deepseek-v4.1-flash-1017-ultrafast,推理速度超 1000 tokens/秒,面向编码、推理与 agent 场景。

转发者 superalesha 对比:同一个开源模型,在他公寓里的 4x 3090 上经社区引擎与自制补丁优化后可达 64-68 tok/s 解码,几周内该模型就从 HF 上传走到云端千级速度、美国服务器上的零留存托管与无审查变体——全程无需 DeepSeek 许可。他引用 Yuchen Jin 的评价,称 DeepSeek 是 S-tier 实验室,因为其围绕推理效率设计架构并完整开源。65 tok/s 已快过阅读速度,1000 tok/s 则是为 agent 准备的。

所属事件:DeepSeek V4.1 Flash 上线 Vercel:宣称千 token 每秒(2 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →