百瓦内本地跑 ds4flash：单线程 40 t/s、六线程 170 t/s
l4rz · x · 2026-08-27
l4rz 分享了一组本地部署实测：在未超 100W 的整机功耗下，单请求线程跑出 40 token/s，六个并发线程合计约 170 t/s。他称这是「plan B」方案。
「Infra」频道最新
- 英伟达营收超预期， forecasts 1080 亿美元 — Polymarket · 2026-08-27
- 英伟达营收创纪录却跌 4%，多头视为入场良机 — iScienceLuvr · 2026-08-27
- vLLM 跑分：DeepSeek V4 Pro 达 13 万 tok/s — AccBalanced · 2026-08-27
- Google Cloud Run 推出实例：单命令部署 Linux 微 VM — steren · 2026-08-27
- Anthropic 签 45 亿美元算力协议，部署英伟达 Rubin 芯片 — Beth_Kindig · 2026-08-27
- DeepSeek-v4-Pro 1美元生成1.3亿Token，成本骤降77倍 — bookwormengr · 2026-08-27