突破内存墙：三星与高通将计算层直接埋入 DRAM 下方
AccBalanced · x · 2026-07-31
探讨了三星、高通等公司为解决 AI 推理「内存墙」问题采取的共同架构策略：将计算单元直接置于 DRAM 下方。
- 内存墙本质：瓶颈不在于内存容量，而在于数据传输的物理距离。
- 能耗瓶颈：解码阶段的能耗主要来自数据搬运，且与导线长度成正比。传统架构中，数据需跨越硅中介层从 HBM 传输至 GPU，产生了巨大的电容和能耗损耗。
- 解决方案：通过缩短计算与存储的物理距离，从根本上降低传输延迟和能量损耗。
「Infra」频道最新
- Dwarkesh 预测算力成本或暴涨 10 倍：单张 H100 价值将达 25 万美元 — rohanpaul_ai · 2026-07-31
- 实地探访：内蒙古沙漠直连风电，中国 AI 算力基建弯道超车 — 96Stats · 2026-07-31
- AMD V620 32G 显卡跑 ComfyUI 实测：便宜大碗的本地推理方案 — Brave_Load7620 · 2026-07-31
- AI军备竞赛转向数据争夺：旧书成高质量训练新宠 — Olivier__OG · 2026-07-31
- 台积电研发先进 AI 芯片封装技术以对抗英特尔 — pstAsiatech · 2026-07-31
- RTX 3060 跑 LTX2 生成 5 秒视频需 10 分钟，如何优化？ — Nicola883 · 2026-07-31