d-Matrix CEO 谈 3D 堆叠内存计算:破解 AI 推理内存墙的新路线
firstadopter · x · 2026-10-19
Tae Kim 采访 d-Matrix 创始人兼 CEO Sid Sheth，谈该公司如何用 3D-DRAM 应对 AI 行业最大的瓶颈之一——「内存墙」（算力与数据供给速度之间的差距）。
- d-Matrix 成立于 2019 年，据行业消息称其 3D-DRAM 技术领先竞争对手，将用于明年年底推出的下一代 Raptor 产品
- 近期动态：在 OCP 全球峰会发布与 Arista、博通、Supermicro 合作的多机架数据中心推理集群 Squadron；9 月宣布其 Raptor XPU 将采用 Nvidia NVLink Fusion 机架级架构，MGX AI 服务器机架预计 2027 Q4 上市
- 采访还涉及公司早期故事、关键转型决策，以及为什么 AI 推理需要以内存为中心的计算
- 作者提醒：d-Matrix 仍需兑现时间表，但若做到，可能改变行业格局
「Infra」频道最新
- 合并量4个月暴涨12倍，Anthropic 自建版本控制系统 Scion 替代 Git — Pavan_Belagatti · 2026-10-19
- 128GB Mac Studio 跑 antirez Dwarfstar,SSD 卸载仍有 16 tok/s — antirez · 2026-10-19
- HBM 格局或将生变：传 SK 海力士 HBM4 封装延迟，三星或抢份额 — tengyanAI · 2026-10-19
- 安全研究员警告：约 1000 个云端推理端点或已被攻击者控制 — matthew_d_green · 2026-10-19
- AWS 开源 TorchNeuron:Trainium 芯片成为 PyTorch 原生设备 — PyTorch · 2026-10-19
- Container machines：Apple 容器运行时独有的持久化 Linux 开发虚拟机 — AIFlow_ML · 2026-10-19