Modal CTO：AI基础设施需从开发者体验转向智能体体验
Latent Space · rss · 2026-07-09
Modal CTO Akshat Bubna 在 Latent Space 播客中深入探讨了 AI 基础设施的演进方向，指出传统的云基础设施正从服务人类开发者转向服务 AI 智能体。 - **核心观点**：传统云平台假设人类能阅读文档、理解仪表盘并填补上下文空白，但智能体缺乏这种能力。因此，现代 AI 基础设施需要更紧密的反馈循环、快速迭代能力和完全可编程的上下文环境。 - **技术实践**：Kubernetes 并非为突发的高密度算力负载设计。Modal 提供了沙箱、GPU 快照、推测解码及跨 17 个云厂商的超大规模容量池。在强化学习（RL）场景下，单次 rollout 甚至可能需要启动 10 万个沙箱。 - **未来方向**：基础设施的重心正从开发者体验（DX）转向智能体体验（AX）。生产级智能体需要严格的护栏与极强的可观测性，因为当智能体开始自动编写并运行代码时，可观测性往往比单纯阅读代码更重要。