5090 本地跑 DeepSeek：10 tok/s，电费比 API 还贵
DeMischi · reddit · 2026-10-25
网友在 RTX 5090（64GB DDR5 + 4TB NVMe）上用 Strata 本地运行 DeepSeek 模型，8K 上下文下速度约 10 tok/s。作者算账后指出：这个速度下用 API 比付电费更便宜，但兴奋点在于「自己的 PC 能跑起来」。给同配置用户提供了实际的本地部署速度参考。
「Infra」频道最新
- 曝三星将用台积电 3nm 为英伟达 NVHBM 定制芯片代工基芯 — Beth_Kindig · 2026-10-25
- 反驳AI泡沫论：每GPU收入减租金才是关键算式 — PTrubey · 2026-10-25
- AI 创业圈新生意:提前锁定 H100/B200 租约转租算力即可躺赚 — Yuchenj_UW · 2026-10-25
- Swarms 开源 RouteHub：导入仅 5.5ms，比 litellm 快约 190 倍 — KyeGomezB · 2026-10-25
- AMD Radeon 9700一个月涨价一倍,个人推理服务器难攒 — UltramanQuar · 2026-10-25
- 新博客拆解 GPU 通信：从页表到 NVLink，逐一对应 SGLang 内部用法 — BanghuaZ · 2026-10-25