AWS 开源 Rust 版 Infinity 运行时:8GB 内存跑 7.5 万并发 Agent

AWS 通过 hydro-project 开源 Infinity(Apache-2.0),一个面向极高并发 agentic 系统的 Rust 运行时,将 agent 并发当作调度问题处理。它借鉴无栈协程实现 agent 挂起与恢复,等待工具调用时完全释放资源,8GB 内存即可运行 7.5 万并发 agent;核心创新还包括「合成工具调用」机制,工具可随时间异步流式推送事件并回注 agent。

2026-10-28 ~ 2026-10-28 · 4 条相关