TokenSpeed 推理引擎抢先适配 DeepSeek V4.1，数千张 Hopper 生产运行
zhyncs42 · x · 2026-10-17
开源 LLM 推理引擎 TokenSpeed（GitHub 2.7k star，MIT 协议）宣布对 DeepSeek V4.1 Flash 1017 提供 Day-0 支持，号称是 Hopper GPU 上目前最快的 DeepSeek V4.1 推理引擎。
要点：
- 开箱支持 Hopper、Blackwell、Grace Blackwell 及 AMD MI355X 多种硬件
- 已在生产环境运行数千张 Hopper GPU，采用 PD 分离（prefill/decode disaggregation）部署
- Vera Rubin 与 AMD MI455X 的优化正在推进中
作者 zhyncs42 邀请社区试用该部署方案。
所属事件:TokenSpeed 推理引擎抢先适配 DeepSeek V4.1，数千张 Hopper 生产运行(2 条相关)→
「Infra」频道最新
- 以太坊基金会推 zkAPI：用零知识证明匿名使用前沿 AI 模型 — DavideCrapis · 2026-10-17
- 高盛：CXMT 披露 4F² 致存储厂市值蒸发 7380 亿美元属过度反应 — zephyr_z9 · 2026-10-17
- 26GB Qwen3.6 MoE 模型在 16GB 显卡上跑出 19.5 t/s,速度翻倍引讨论 — dreamyrhodes · 2026-10-17
- Ben Horowitz：经历过互联网泡沫，a16z 坚决不投 neocloud — SumitGup · 2026-10-17
- ChinaTalk 对谈 Saif Khan：DUV 出口管制或使中国 2030 年代 AI 芯片产量仅为美国 1/100 — ChinaTalk · 2026-10-17
- HN 讨论：MCP 会否成为智能去中心化搜索的共同底座 — contextetech · 2026-10-17