单机异构设备同跑 Qwen 27B 与 DeepSeek

开发者 @davideciffa 演示在单台 Lucebox 机器上同时运行 Qwen 27B 和 DeepSeek v4 Flash 两个模型。该方案采用独立 GPU 搭配统一访问内存的异构架构,兼顾大容量内存与不错的浮点算力,展示了在单台设备上并行承载多个大模型的可行性。

2026-09-16 ~ 2026-09-16 · 2 条相关