三卡+130GB 内存跑 Qwen3.8B 仅 18 T/s，网友求本地提速方案
MageLD · reddit · 2026-10-26
一位网友求助本地部署 Qwen3.8B（FN 量化）的提速问题。他的硬件：2 张解锁版 RTX 3090 24GB、1 张解锁版 4070 Ti Super 16GB、18 核 CPU、130GB DDR4 内存、1TB NVMe。
实测速度：仅 4070 Ti Super + NVMe 约 8–9 T/s，纯 NVMe 约 2 T/s，三卡 + 内存混跑可达 18 T/s。他想在不买新硬件的前提下进一步提速，求解层放置与推理后端优化建议。
「Infra」频道最新
- 自建本地推理集群日耗 24 万度电，网友戏称「中彩票的信号」 — TheZachMueller · 2026-10-26
- Gartner：2030 年前超 80% neocloud 将无法独立存活，4 万亿美元资产面临减值 — rohanpaul_ai · 2026-10-26
- 工程师自建电信控制面异常检测：全天候探测器+本地模型自动 RCA — l4rz · 2026-10-26
- 软银拟在马来西亚投 500 亿美元建 AI 数据中心 — VectorWireAI · 2026-10-26
- 文本分块算法再优化：最坏延迟从 37.1 秒压到 585 毫秒 — DanielLockyer · 2026-10-26
- 智能电视为什么便宜：Samsung 常驻麦克风与内容识别，数据分享给约 400 个合作伙伴 — FinanceYF5 · 2026-10-26