Yaroslav Bulatov 推 A100 专用架构实验,直指反向传播的内存墙

yaroslavvb · x · 2026-09-12

Yaroslav Bulatov 认为存在为现有硬件定制 AI 架构的空间,并正针对 A100 做实验。其开源的 sutro-problems 仓库给出 MNIST 挑战:要求在达到规定准确率的同时解决内存墙问题——比如用 NVML 测量的极低能耗 A100 kernel,或在 Bill Dally 的 2D mesh 上以小内存足迹运行的算法。动机是:反向传播流行于算术受限的 80 年代,而当今瓶颈是内存搬运,batching 只是部分缓解。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →