疑似 DeepSeek-4.1-Flash 本地跑出 670 TPS,4 张 RTX Pro 6000 驱动
Kyrannio · x · 2026-10-23
用户 @fraserpricee 展示了一个名为 DeepSeek-4.1-Flash-1017 的模型在本地硬件上的代码生成解码速度:4 张 RTX Pro 6000 Max-Q、全精度运行下达到 670 TPS,配合 SSD ngram 缓存、7 步投机解码(Spark)和自制的 codegen 调优 kernel。发帖人称等配方公开后会本地部署,并调侃「本地 AI 只是玩票」的论调被打脸。注意:该模型名称未经 DeepSeek 官方证实,可能是内测/泄露版本或社区命名,具体配置细节以官方发布为准。
所属事件:DeepSeek-4.1-Flash 本地实测:4 张 RTX PRO 6000 解码近 676 tok/s(2 条相关)→
「Infra」频道最新
- 开发者开源每日更新脚本:用 LLM 自动排查系统更新失败 — aronchick · 2026-10-23
- 伦敦谷歌云故障波及银行物流公共服务,专家警示云韧性非自动继承 — DavidLinthicum · 2026-10-23
- 三星电机突入 Nvidia 基板供应链,台湾基板高管直呼意外 — zephyr_z9 · 2026-10-23
- AI agent 高频提交把 CI 账单从 $738 推到 $2400,开发者求省钱方案 — CellistOk6782 · 2026-10-23
- Amazon CEO:2026 年 2200 亿美元资本开支瞄准万亿美元 AWS — a16z Podcast · 2026-10-23
- Suhail 高价收货:公开求购用于模型的 RL 内核优化任务 — AIFlow_ML · 2026-10-23