疑似 DeepSeek-4.1-Flash 本地跑出 670 TPS,4 张 RTX Pro 6000 驱动

Kyrannio · x · 2026-10-23

用户 @fraserpricee 展示了一个名为 DeepSeek-4.1-Flash-1017 的模型在本地硬件上的代码生成解码速度:4 张 RTX Pro 6000 Max-Q、全精度运行下达到 670 TPS,配合 SSD ngram 缓存、7 步投机解码(Spark)和自制的 codegen 调优 kernel。发帖人称等配方公开后会本地部署,并调侃「本地 AI 只是玩票」的论调被打脸。注意:该模型名称未经 DeepSeek 官方证实,可能是内测/泄露版本或社区命名,具体配置细节以官方发布为准。

所属事件:DeepSeek-4.1-Flash 本地实测:4 张 RTX PRO 6000 解码近 676 tok/s(2 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →