玩家实测:笔记本加 96G 二手内存,跑 Qwen 达 48.9 token/s
fluffywuffie90210 · reddit · 2026-11-07
一位 Reddit 用户分享本地大模型部署经验:他以约 2300 英镑卖掉 Minisforum Strix Halo 主机,换成同样价位的 MSI Vector 16 笔记本(Ultra 9 + RTX 5080 16G 显存 + 32G 内存),随后花 800 英镑购入二手 96G 笔记本内存,总投入约 3100 英镑。
- 96G 内存让 Qwen Q4 XL Flash 在 5 万 token 长提示下跑出 48.9 t/s 生成、1860 t/s 预填充
- 还能通过两个 Thunderbolt 5 接口外接显卡(如两张 5060 Ti),凑出约 80G 总显存
- 他认为这套方案比 3500 英镑的 Strix Halo 和约 3200 英镑的 32G 版 Spark 笔记本(后者跑不了 Flash)更便宜且更快,GLM 5.3 Flash Q3 也能跑到约 25 t/s
结论:大内存笔记本让本地跑大参数模型不再需要巨量显存,尽管他吐槽二手内存原价高达 1300 英镑。
「Infra」频道最新
- 马斯克:Starlink V4 每星百条 10Tb/s 激光链路,剑指海底光缆 — elonmusk · 2026-11-07
- Together AI 发布 TKCC:智能体持续编译推理引擎,实验提速252倍 — simran_s_arora · 2026-11-07
- 马斯克放话:SpaceX 或收购传统运营商,频谱利用率提升10倍 — XFreeze · 2026-11-07
- 马斯克自称亲手拉蟒蛇粗电缆:孟菲斯数据中心我样样都干 — elonmusk · 2026-11-07
- 中国电信星辰 Xing4.0-29B 开源:昇腾 NPU 全程训练,SWE-bench Verified 达 75 分 — jacek2023 · 2026-11-07
- Baseten Serverless Loops GA:无冷启动的 Agent RL 训练基础设施 — baseten · 2026-11-07