三台迷你 PC 组 USB4 网格跑 Qwen3-235B,速度约 22 tok/s
AIFlow_ML · x · 2026-11-22
- AMD 用三台 Ryzen AI Max 迷你主机(各 128 GB 内存)通过 USB4 以 40 Gbps 组网,跨机分布式运行 Qwen3-235B 模型,速度约 22 tok/s。
- 关键在于 Windows 将支持 RDMA over USB4,不再需要 200G 网卡就能把大模型拆分到多台桌面设备上运行。
- 目前为厂商提供的数据,尚未经第三方验证;如果属实,大模型本地分布式部署的成本门槛将大幅降低。
「Infra」频道最新
- 记者实探数据中心:噪音如飞机永不落地,居民被迫 24 小时忍受 — jdjohnson · 2026-11-22
- 手机端 LLM 当裁判狂编数据,换微型分类器后零误报 — cyka_6lyat · 2026-11-22
- 「零数据保留」走红,ZKP 验证模型计算或成企业 AI 关键 — yenkel · 2026-11-22
- OpenRouter 揭文指控推理商缓存作弊,Novita 被点名 — AccBalanced · 2026-11-22
- 资深工程师将推出免费 FPGA 课程,剑指大学教育脱节 — blaizedsouza · 2026-11-22
- SPCX 明年买 10GW GPU 靠预付款?分析师质疑现货市场模式走不通 — toptickcrypto · 2026-11-22