RTX 5090 本地跑 DeepSeek：256k 上下文解码 27 tok/s
QuixiAI · x · 2026-11-08
QuixiAI 跟进本地部署讨论，称自己在 RTX 5090 上运行 DeepSeek v4.1 Flash（1017 版本），在 256k 上下文下达到解码 27 tok/s、预填充 161 tok/s。此前 casperhansen 称 RTX 3090 上能以 15 tok/s 流畅运行该模型，并规划了路线图：自建推理引擎、做反检测浏览插件、新量化框架，再让 AI 在前三步上自我迭代。整套本地方案约 2500 美元即可搭建。
所属事件:消费级显卡本地跑 DeepSeek V4.1 Flash：5090 达 27 tok/s(3 条相关)→
「Infra」频道最新
- RTX 5090 现货价降至 6759 美元,较此前万元高价明显回落 — Beneficial-Ad-8127 · 2026-11-08
- LSA 论文：稀疏注意力索引占预填充 98% 耗时，10M 上下文提速 22.7 倍 — burny_tech · 2026-11-08
- 「GPU 无家可归」激增：有算力没机房，圈内人四处求托管的梗 — markjeffrey · 2026-11-08
- 机舱实测:机上互联网测速下载 122Mbps,自称史上最佳 — JoeJustice · 2026-11-08
- 数据中心狂飙之下,电力与电网已成超级智能最大瓶颈 — XFreeze · 2026-11-08
- 跑 50-100 个 Agent 的开发者考虑本地小模型替代 API 决策降延迟 — f1yingbanana · 2026-11-08