D-Matrix 发布 Raptor 3D-DRAM 推理加速器,亮相 Hot Chips 2026
rbanffy · hn · 2026-09-14
- D-Matrix 在 Hot Chips 2026 上介绍了 Raptor 推理加速器,采用 3D-DRAM 存算一体化架构,面向生成式 AI 推理负载。
- 其核心思路是把内存堆叠到计算核心附近,降低数据搬运带来的延迟与能耗,瞄准生成式推理的带宽瓶颈。
- ServeTheHome 对该架构的演讲要点做了整理,值得关注的推理硬件新路线。
「Infra」频道最新
- Cloudflare 不肯做,开发者自研工具实现 Durable Objects 零停机迁出 — samgoodwin89 · 2026-10-30
- 曝一家未具名机构已建成规模化算力借贷专项载体 — matt_slotnick · 2026-10-30
- 开源模型涨价挤压推理商:5 月以来 GPU 回本吞吐要求涨 25-83% — bookwormengr · 2026-10-30
- Sam Altman 称芯片供应链“看不见的手”失灵，DRAM 是关键瓶颈 — SnoozeDoggyDog · 2026-10-30
- MoEShift 让 24GB Mac 跑 125B 模型：7.5GB 内存、10 tok/s — dave-tro · 2026-10-30
- 量子行业去年风投 49 亿美元仅营收 19 亿，四市场全景指南发布 — antavedissian · 2026-10-30