单机双模型同跑:Qwen 27B 与 DeepSeek 共享一台异构设备
QuixiAI · x · 2026-09-16
博主 @davideciffa 演示在一台配备独立 GPU + 统一内存的 Lucebox 设备上同时运行 Qwen 27B 和 DeepSeek v4 Flash 两个模型,依托大容量显存与不错的带宽和 FLOPS 实现"单机双模型"。团队同时表示正在优化异构环境下的并发性能。
所属事件:单机异构设备同跑 Qwen 27B 与 DeepSeek(2 条相关)→
「Infra」频道最新
- Lumentum:FDA 光学进入 30 年最大拐点,光互联将成算力引擎一部分 — pstAsiatech · 2026-09-16
- 埃因霍温成 AI 芯片集群：EUCLYD 融 2 亿欧，Axelera 出货 Europa — MarvinTBaumann · 2026-09-16
- 本地跑大模型工具盘点：vLLM、Unsloth 等推理与训练利器 — thisdudelikesAI · 2026-09-16
- Unsloth 推出桌面应用:本地运行和训练 LLM 一站搞定 — thisdudelikesAI · 2026-09-16
- GPU 算力是金融工程问题:拆解 AI 实验室 80% 毛利与扩容经济学 — sarahdrinkwater · 2026-09-16
- 德国算力困局:黑森州电力需求或增三倍,DFKI研发省电AI — FlorianGallwitz · 2026-09-16