双 R9700 按层拆分跑大模型:单卡负载降至 50% 风扇静音
yahbluez · reddit · 2026-10-20
一位 Debian 用户把工作站从单张 9060 XT 升级到 2x AMD R9700,发现按层切分(layer split)跑大模型有个意外好处:单任务下每张卡的 GPU 负载降到 50% 以下,风扇保持安静。这是多卡本地部署在散热/噪音上的一个实用小经验。
「Infra」频道最新
- PFN 携手 Tenstorrent 研发光电融合 xPU,获 NEDO 立项至 2031 年 — DavidBennett__ · 2026-10-20
- 铜通孔内嵌金刚石提升导热,碳基芯片散热新思路亮相 — jwt0625 · 2026-10-20
- Physis 发布世界基础模型公司并推出推理系统 PhysisServe，将并入 vLLM-Omni — vllm_project · 2026-10-20
- 巴塞罗那超算中心 AI Factory 加速器选出三家 AI Champions — NVIDIA Blog · 2026-10-20
- Luma 发布 MARBLE:打包多模态序列的精确序列并行,48 项测试胜 47 项 — mrjonfinger · 2026-10-20
- PyTorch 大会将展示 KV 缓存跨层调度：CPU 还是共享存储更划算 — PyTorch · 2026-10-20