128GB 迷你主机跑满 DeepSeek-V4.1-Flash,384 专家全驻留显存
DotaMate · reddit · 2026-10-23
开源项目 Project Maya 发布 v1.1.22(Maya-XS),让 DeepSeek-V4.1-Flash 完整跑进一台 128GB 内存的 Ryzen AI Max 迷你主机:全部 384 个专家常驻 GPU 显存,跨多卡张量并行,单卡模式下 drafting(投机采样草稿阶段)也显著提速,占用 120.6 GB。对本地部署大 MoE 模型是值得关注的新方案。
「Infra」频道最新
- 一周四篇芯片高管访谈:CUDA 之父谈 GPU 为何持续碾压 ASIC — firstadopter · 2026-10-23
- 租一张 GPU 时薪净赚 31 美元:DeepSeek 开源推理引擎 DeepInfer 算账 — cneuralnetwork · 2026-10-23
- 财报亮眼股价反跌,分析师:AI 交易难猜的是供给而非需求 — TiernanRayTech · 2026-10-23
- 开利投资超 6 亿美元建新厂,加码数据中心散热设备供应 — pstAsiatech · 2026-10-23
- 半导体设备商 Besi 订单超预期,称 ASML 并非混合键合对手 — pstAsiatech · 2026-10-23
- 华为获 23 亿美元离岸贷款,芯片支出持续攀升 — pstAsiatech · 2026-10-23