实测 DeepSeek v4.1 本地推理 340 tok/s，质疑 700 tok/s 为「跑分优化」
TheZachMueller · x · 2026-10-28
ZenMagnets 修改 fraserpricee 的推理配方后，在单流 NVFP4 上跑出 DeepSeek v4.1 1017 tokens、340 tok/s，是其自有硬件上最快成绩（tp4 RTX 6000，BRRR/B12X 混合方案，8 tokens 以上并发用原生 B12X 获得增益）。他指出此前 160 tok/s 的结果是因为原配方不完整、缺少部分配置；而 fraser 宣称的 700+ tok/s 更多是「赛道优化」——在标准化 llm-inference-bench 下仅约 160 tok/s（C1）和 400 tok/s（C8），约为 flare docker 成绩的一半。配图展示了完整基准表：C1 到 C32 各上下文长度（0k–128k）的组合解码吞吐，最高 C32/0k 达 1755 tok/s，30 格中 29 格有效，质量测试 LAVD 30 与 Estonia 30 全部通过。配方已发布在推文线程。
「Infra」频道最新
- 2026 晶圆厂设备市场预估上调至 1530 亿美元,周期拉长 — BenBajarin · 2026-10-28
- 亚马逊谷歌微软一边采购 Anthropic 一边向其出售 2690 亿美元算力 — YvesMulkers · 2026-10-28
- AMD 与 Meta 深化合作，Helios 机架系统进驻支撑超级智能基础设施 — wkmyrhang · 2026-10-28
- 4 块 RTX PRO 6000 跑 DeepSeek：16 并发解码 2120 tok/s — victormustar · 2026-10-28
- 算一道账:2027 年底地球上每人可分 120B 个 DS 级 token — bookwormengr · 2026-10-28
- Google TPU 首次登陆第三方云：OCI 成 Google 之外首个提供 TPU 的超大规模云 — rseroter · 2026-10-28