3080 Ti 降功耗 42% 跑 Qwen 3.5 9B，速度几乎不掉
Asthenia5 · reddit · 2026-11-10
一位 Reddit 用户在 RTX 3080 Ti 上用 llama.cpp 跑 Qwen 3.5 9B Q4KM，逐步下调 GPU 功耗墙做了实测：
- 从 450W 每 10% 一档往下压，到 250W 仍保持约 100 tok/s，与满功耗基准一致
- 降到 220W 才见明显掉速（约 80 tok/s），260W 与 450W 性能相同——相当于零性能损失省下约 42% 功耗
- 有意思的是 GPU 利用率很高，但显存带宽始终没跑满，作者怀疑瓶颈在推理软件或 GPU 架构而非功耗本身
结论：本地推理在小模型场景下功耗墙远不是性能瓶颈，想省电可以直接压功耗。
「Infra」频道最新
- vLLM-Omni 实测：4 卡 B300 上 2048² 图像生成仅 0.63 秒 — vllm_project · 2026-11-10
- ReCaVSR 移植 ComfyUI:一步扩散 4 倍视频超分,4090 上 36 秒 — LatentSpacer · 2026-11-10
- HF 今日直播:用 llama.cpp 与 vLLM 给模型量化瘦身 — ben_burtenshaw · 2026-11-10
- 4 台树莓派 5 组网跑 Startlux 4B 9B Instant Q40 量化模型 — bartlomiej__ · 2026-11-10
- 被禁英伟达芯片如何流入中国:偷卡车、假文件、吹风机换贴纸 — Caneki97 · 2026-11-10
- 腾讯选择 Bittensor 子网 Chutes 作为新旗舰模型 Hy4 推理伙伴 — markjeffrey · 2026-11-10