模拟芯片跑注意力快 H100 百倍、省电七万倍，Nature 论文挑战冯·诺依曼架构
anselm · x · 2026-09-25
- 研究人员在 Nature 发表了一种模拟存内计算（analog in-memory computing）架构 GainCellAttention，宣称运行 LLM 注意力机制比 H100 快 100 倍、能耗低 7 万倍。
- 核心思路：现有 AI 芯片都受限于冯·诺依曼架构——处理器与存储物理分离，数据来回搬运的能耗可达计算本身的上万倍。
- 该方案用新兴的 "gain cell" 硬件，把注意力这一最昂贵的计算直接放在存储单元内部完成，从物理上消除了数据搬运瓶颈。
- 若成熟，可能显著改变推理成本结构；但仍是论文阶段成果，距实际部署尚有距离。
「Infra」频道最新
- Lambda 工程师详解本地推理装机:27B 模型需 24-32GB 显存 — TheZachMueller · 2026-09-25
- Pokee AI 现场演示 36B agent 模型跑在 32GB 内存的骁龙笔记本上 — Kyrannio · 2026-09-25
- AMD 讲师亮相 PyTorchCon:1K+ MI355X 上实现 MXFP8 预训练扩展 — PyTorch · 2026-09-25
- AI 能源公司 Parallax 出炉，获 Founders Fund 领投 1.17 亿美元 — graceisford · 2026-09-25
- Nebius/WEKA 实测:分布式 KV cache 让单节点 agent 推理吞吐提升 2.4 倍 — AccBalanced · 2026-09-25
- Burkov AI 周报 #179:GPU 租买账、llm-d 低成本部署 753B 开源模型 — burkov · 2026-09-25