Yaroslav Bulatov 推 A100 专用架构实验,直指反向传播的内存墙
yaroslavvb · x · 2026-09-12
Yaroslav Bulatov 认为存在为现有硬件定制 AI 架构的空间,并正针对 A100 做实验。其开源的 sutro-problems 仓库给出 MNIST 挑战:要求在达到规定准确率的同时解决内存墙问题——比如用 NVML 测量的极低能耗 A100 kernel,或在 Bill Dally 的 2D mesh 上以小内存足迹运行的算法。动机是:反向传播流行于算术受限的 80 年代,而当今瓶颈是内存搬运,batching 只是部分缓解。
「Infra」频道最新
- Intel 光互连耦合器实测插损 1~1.5 dB,工艺良率瑕疵可见 — jwt0625 · 2026-09-12
- CPO 论文遭质疑:DLW 芯片与 PIC 耦合方式仅以「如 TCB 等」带过 — jwt0625 · 2026-09-12
- AWS 大故障中作者靠多区切换,企业服务总停机仅 22 分钟 — generativist · 2026-09-12
- 全球数据中心耗电分布:美国占 43%,中国仅占 13% — TMWNN · 2026-09-12
- Intel 工程师实测共封装光学:V 型槽边缘耦合新方案 — jwt0625 · 2026-09-12
- Intel 工程师曝光晶圆级测试中的芯片封装检测现场 — jwt0625 · 2026-09-12