Medusa Halo 泄露：LPDDR6 峰值 691GB/s，玩家拟组 512GB 本地跑大模型
gnukeith · x · 2026-11-08
据泄露信息，AMD Medusa Halo 预计搭载 LPDDR6（DDR6 本身为 AI 场景设计，DDR5 并不适合），理论带宽峰值约 691 GB/s，可同时提升推理速度与并行能力。
发帖人 gnukeith 解释了为何不用 GPU 做快速推理：GPU 更贵，而他更看重容量而非速度——想跑更大的模型并深度优化自己的推理引擎（可能于 12 月或 1 月开源）。他乐观估计 Medusa Halo 会有 512GB 内存配置，买 4 台总价不到 2 万美元。
他提到在近无损量化下 DeepSeek V4.1 Flash 单会话只能跑到约 160 tokens/s；如果重点做并行优化，预计 5 个并发会话下每个可达 30–50 tokens/s，先供自己和伴侣使用。
「Infra」频道最新
- Hyperbolic CEO 谈算力做市:三年长约对三周需求的市场空隙 — YiMaTweets · 2026-11-08
- Ben Bajarin 反驳「不需要数据中心」论:企业软件上云史正在重演 — BenBajarin · 2026-11-08
- 35 种量化组合实测:Qwen3.8 27B 的 KV 缓存 8-bit 几乎无损 — Hefty_Wolverine_553 · 2026-11-08
- 租 8×H200 烧 $4600 零进展,Tinker 跑同一训练全程不足 $100 — simonguozirui · 2026-11-08
- 算力上太空是必然：反对数据中心的人还要反对到宇宙吗 — Dr_Singularity · 2026-11-08
- 开源工具 Strata 让 RTX 3060 本地跑 DeepSeek V4.1，每秒 9-11 token — alex_verem · 2026-11-08