RTX 3090 推理功耗实测:性能与功耗并非线性正比
haluxa · reddit · 2026-08-30
用户在 RTX 3090 上进行了非严谨的推理功耗测试,使用 LMStudio 和 Qwen3.8-27B-Q4KM 模型(占用约 20GB VRAM)。测试结果显示,模型推理速度与功耗并非简单的线性关系,存在一个最优功耗区间,之前认为的 220W 最优值可能因引擎和模型不同而变化。
「Infra」频道最新
- 开源推理引擎 Magnitude 让本地模型比 Ollama 快 2 倍以上 — nickbaumann_ · 2026-10-15
- 传 Nvidia 本周宣布数百亿美元欧洲 AI 投资 — georgemillo · 2026-10-15
- Cloudflare 一夜 $10,811 账单:退款靠运气,刹车得自己装 — sujingshen · 2026-10-15
- 阿姆斯特丹大学新方法:Transformer 免再训练变身弹性模型 — VISLab-Amsterdam · 2026-10-15
- vLLM MTP3 验证:AIME25 提至 0.9667,prefill kernel 延迟最高降 84% — vllm_project · 2026-10-15
- 26ms 决策模型 s1-llm-auto-router 开源,为请求自动选 LLM — airesearch12 · 2026-10-15