3090 FE 跑 LLM 显存数秒冲到 112°C,实测给出功耗红线
Farmadupe · reddit · 2026-10-13
作者实测 3090 Founders Edition 跑 LLM 的显存温度:token 生成会打满显存读取带宽,原厂风扇曲线下显存数秒内冲到 112°C,而显存芯片持续工作额定温度仅 96°C。
实测结论(Qwen3.8-27B 5.1bpw,thireus-gguf-tool-suite,MTP 开启、每前向 3 token、70% 接受率):
- 限功耗 270W 并手动设风扇 100% 可保显存在规格内;若接受 70% 风扇噪音,功耗上限为 240W,但损失约 30% 吞吐
- 不手动设风扇,原厂曲线必过热
- 降压(undervolt)无效:Nvidia 在低功耗下不应用时钟偏移,300W 以上才生效,那时显存已过热
- 可接受温度对应的功耗线:100°C→290W,104°C→328W,108°C→535W
- 关 MTP 可能更糟(未实测)
附功耗-速度与功耗-显存温度两张实测曲线图。
「Infra」频道最新
- YC F26 新公司 RouterPlus 上线:为工作负载自动选最优惠模型路由 — paulfinneyx · 2026-10-13
- CXMT 宣布 4F 方形结构关键进展,年底推服务器内存新品 — pstAsiatech · 2026-10-13
- SlateDB 妙用:把整个 DuckDB 数据库直接存进 S3,无需任何服务 — josh_wills · 2026-10-13
- 业内人士呼吁:下一代笔记本需要 35B MoE、激活 9B 的本地模型 — draginol · 2026-10-13
- 应用材料:机架级 Agentic AI 机柜耗晶圆是 Gen AI 机柜的 2-4 倍 — BenBajarin · 2026-10-13
- AWS 详解 Hopper 上 Fused MoE 内核优化:矩阵转置换 2-4% 吞吐 — AWS ML Blog · 2026-10-13