4x5060Ti+4x3060+256GB 内存,混搭 8 卡跑 MoE 推理可行吗
Ambitious_Fold_2874 · reddit · 2026-10-25
Reddit 用户展示自己长期低价凑齐的 8 卡推理平台，询问是否适合高速、高精度运行大 MoE 模型：
- 配置：4x RTX 5060 Ti 16GB + 4x RTX 3060 12GB，256GB DDR4-3200（4 通道），主板提供 128 条 PCIe 4.0 通道。
- 总成本与现在的 DGX Spark 价格相当。
- 疑问核心：这种异构多卡方案跑大 MoE 推理是否可行，还是相比统一显存/内存架构（如 Apple Silicon 或 DGX Spark 类）严重劣化。
「Infra」频道最新
- 网友晒 8x3090 自组机:192GB VRAM + 256GB RAM 跑本地模型 — generativist · 2026-10-25
- 有人提醒：AI发展绕不开的终极约束是热力学定律 — AryHHAry · 2026-10-25
- KohakUnlock 解锁 RTX 20 系 FP32 限制:2080 Ti 算力提升 85% — CeFurkan · 2026-10-25
- 整理 18 组 ComfyUI 实测：GPU unlock 后 BF16 提速远超 INT8 — Acceptable_Put9983 · 2026-10-25
- 博主复盘 Kimi K3 爆火，猜国内将释放部分 B300 — lipeng0820 · 2026-10-25
- H100/H200 一卡难求:新模型密集发布致 GPU 供应商全面缺货 — abhijithneil · 2026-10-25