923 美元主板加 4 张二手 7900XT,拼 92GB 显存跑大模型
Miserable-School-665 · reddit · 2026-10-13
一位身处第三世界国家的用户(买不到服务器级硬件)计划组装一台预算型推理服务器:ASUS WS X299 PRO + i9-10980XE(932 美元)、4 张二手 RX 7900 XT 20GB(共 2,836 美元)、1 张 RTX 3060 12GB,合计 92GB 显存,配 64GB DDR4 3600 内存与 1600W 金牌电源,整套约 4,305 美元。目标是让 GLM 5.3 Flash 的 q3/q4 量化版本至少跑到 30 token/s,向社区征求配置建议。
「Infra」频道最新
- YC F26 新公司 RouterPlus 上线:为工作负载自动选最优惠模型路由 — paulfinneyx · 2026-10-13
- SlateDB 妙用:把整个 DuckDB 数据库直接存进 S3,无需任何服务 — josh_wills · 2026-10-13
- 业内人士呼吁:下一代笔记本需要 35B MoE、激活 9B 的本地模型 — draginol · 2026-10-13
- 应用材料：机架级 Agentic AI 机柜耗晶圆是 Gen AI 机柜的 2-4 倍 — BenBajarin · 2026-10-13
- AWS 详解 Hopper 上 Fused MoE 内核优化:矩阵转置换 2-4% 吞吐 — AWS ML Blog · 2026-10-13
- AMAT 拒给 WFE 指引,分析师自绘图表喊出「WFE 冲向月球」 — BenBajarin · 2026-10-13