Tideway:统一内存池管理,消费级设备跑大 MoE 模型延迟降半

DukeUniversity · hf · 2026-11-19

杜克大学等团队发布 Tideway,让大型 MoE 模型在内存受限的消费级设备上高效推理。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →