Qwen 27B 与 DeepSeek v4 Flash 同机异构运行,展示 GPU+统一内存方案
samsja19 · x · 2026-09-16
开发者演示在单台 Lucebox 机器上同时运行 Qwen 27B 和 DeepSeek v4 Flash 两个模型,利用独立 GPU 搭配统一访问内存,兼顾大容量与不错的 FLOPS 和带宽。团队表示正在努力提升异构架构下的并发性能,是本地部署异构算力方案的一个直观案例。
「Infra」频道最新
- 当模型能力趋同,大模型工作只剩两件事:数据和基础设施 — saurabh_shah2 · 2026-09-16
- SentencePiece Lite 发布:50KB 二进制,tokenization 快 20-30 倍 — heiga_zen · 2026-09-16
- 华为内部万字备忘录泄露：押注昇腾950替代英伟达，不做基础模型 — pstAsiatech · 2026-09-16
- 豆包手机预约破 36 万台，RTX 5090 第三方炒至 9500 美元 — 创业邦 · 2026-09-16
- JPMorgan 预测 2028 年 GPU/ASIC 出货超 2500 万，ASIC 主导增长 — bookwormengr · 2026-09-16
- iamtrask:终局不是单个 AGI,而是人人运行小型 LLM 的信任网络 — iamtrask · 2026-09-16