Marvell 光学模块让 HBM 内存离 GPU 50 米:延迟仅数百纳秒
rohanpaul_ai · x · 2026-10-20
Marvell 的 Dave Lazovsky 展示了一个基于光子学的模块,可将高带宽内存(HBM + DDR)放到距 GPU 最远 50 米处,而传统封装距离仅 1.5 毫米。这是内存首次不必紧贴计算单元,AI 集群得以共享大规模内存池而不再锁死在加速器封装内;延迟保持在数百纳秒量级,足以支撑实际内存访问。意义在于内存与算力从此可在两个独立维度上扩展。
「Infra」频道最新
- 美国 DOE 押注自主实验室,电网互联成 AI 扩张瓶颈 — ingliguori · 2026-10-20
- FlashMap 流图推测解码:单次前向起草整块 token,Qwen3-8B 提速超 6 倍 — kalyan_kpl · 2026-10-20
- NVIDIA 庆祝 PyTorch 月下载破 5000 万次,发布 CUDA 优化十年时间线 — NVIDIAAI · 2026-10-20
- NVIDIA 宣布投资 Boltz、Hiverge 等 5 家英国初创,承诺 2.5 亿美元算力 — dr_alphalyrae · 2026-10-20
- 大摩看多英伟达:2027 年近 7000 亿美元营收或流入,但缺电 32GW — rohanpaul_ai · 2026-10-20
- MiniCPM-V 4.7 端侧跑出 100 tok/s,仅占约 3 GB 显存 — NielsRogge · 2026-10-20