GPU 大量时间在等内存，巨头押注重建 AI 基础设施

Ben Horowitz 本周援引多方数据指出，AI 行业建立在错误的基础设施之上：聊天机器人场景下 GPU 仅有 5%–15% 的时间在真正计算，五到九成时间都在等待内存，Agent 任务时长更是每 4 个月翻倍。为解决这种算力与内存带宽的错配，Nvidia 等巨头正投入巨资押注重建整个 AI 基础设施，试图突破现有架构瓶颈。

2026-10-07 ~ 2026-10-07 · 2 条相关

• GPU 五到九成时间在等内存,巨头押注重建整个 AI 基础设施 — alex_verem · 2026-10-07

另有 1 条近重复转述:alex_verem