专题 · FULL STORY

AWS 开源 Infinity 运行时：发布与 8 万 Agent 压测

AWS 与 UC Berkeley 在 AGNTCon 上开源 Rust 编写的 Infinity 智能体运行时，以休眠机制实现海量并发。随后开发者基于其基准在单颗 AMD EPYC 单线程上模拟 8 万个 Agent、320 万次模型调用，实测闲置 Agent 仅占约 100KB 内存，验证了设计效果。

2026-10-24 ~ 2026-10-25 · 2 集 · 5 条

第 1 集 · AWS 开源 Infinity 运行时，休眠机制实现海量智能体并发(2026-10-24,3 条)

AWS 与 UC Berkeley 在 AGNTCon 发布并用 Rust 编写开源了 Infinity 智能体运行时，理念是「对智能体做 async 对线程做的事」，让等待中的 Agent 进入休眠以实现极端并发，号称可在 8GB 内存的树莓派上容纳 7.5 万个智能体。不过后续细节披露指出，跑分基于模拟模型和单线程推算，树莓派数字只是估算，官方与社区均提醒理性看待 benchmark 结果。

第 2 集 · 8 万 Agent 压测实测：闲置 Agent 仅占约 100KB 内存(2026-10-25,2 条)

基于 AWS 发布的基准，开发者在单颗 AMD EPYC 9R14 单线程上模拟 8 万个 Agent、每个 20 轮对话、共 320 万次模型调用，实测每个闲置 Agent 约占 100KB 内存。支撑这一扩展性的关键架构是工具调用立即返回、结果异步推回 Agent 队列，使 100ms 的查询与跑 3 天的 CI 任务可无缝共存，社区认为该设计可直接借鉴到任何 Agent 技术栈。