DeepSeek V4.1 Flash 1017 在 Vercel 跑出 1000 tok/s,家用 4x3090 也能到 65
AccBalanced · x · 2026-11-09
Vercel AI Gateway 上线 deepseek-v4.1-flash-1017-ultrafast,推理速度超 1000 tokens/秒,面向编码、推理与 agent 场景。
转发者 superalesha 对比:同一个开源模型,在他公寓里的 4x 3090 上经社区引擎与自制补丁优化后可达 64-68 tok/s 解码,几周内该模型就从 HF 上传走到云端千级速度、美国服务器上的零留存托管与无审查变体——全程无需 DeepSeek 许可。他引用 Yuchen Jin 的评价,称 DeepSeek 是 S-tier 实验室,因为其围绕推理效率设计架构并完整开源。65 tok/s 已快过阅读速度,1000 tok/s 则是为 agent 准备的。
所属事件:DeepSeek V4.1 Flash 上线 Vercel:宣称千 token 每秒(2 条相关)→
「Infra」频道最新
- GitHub Actions 与 Webhooks 再现故障,任务启动延迟官方正在排查 — DanielLockyer · 2026-11-09
- 硬件感知 LDM 实现:状态回卷+窗口写入,大幅降低激活内存与访存开销 — SonglinYang4 · 2026-11-09
- 新注意力核算法提速1.8-6.4倍,精确相对位置注意力进FlashAttention — INSAIT-Institute · 2026-11-09
- AMD 大涨 11% 收于 449 美元,盘前再涨 2% 续创新高 — firstadopter · 2026-11-09
- 评论人称推理成本正成为 AI agent 的隐形天花板:算力紧、token 涨价就失去经济性 — DavidLinthicum · 2026-11-09
- GPU 租价表曝光:GB300 整柜月租 340 万,B200 整机 27 万/月 — sujingshen · 2026-11-09