AWS 开源 Rust 版 Infinity 运行时:8GB 内存跑 7.5 万并发 Agent
AWS 通过 hydro-project 开源 Infinity(Apache-2.0),一个面向极高并发 agentic 系统的 Rust 运行时,将 agent 并发当作调度问题处理。它借鉴无栈协程实现 agent 挂起与恢复,等待工具调用时完全释放资源,8GB 内存即可运行 7.5 万并发 agent;核心创新还包括「合成工具调用」机制,工具可随时间异步流式推送事件并回注 agent。
2026-10-28 ~ 2026-10-28 · 4 条相关
- 开源 Infinity:把 Agent 并发当调度问题解的 Rust 运行时 — ShadajL · 2026-10-28
- Rust 版 Infinity 运行时:8GB 内存跑 7.5 万并发 Agent — ShadajL · 2026-10-28
- Infinity agent 运行时引入「合成工具调用」:异步事件流式回注 — ShadajL · 2026-10-28
- AWS 开源 Infinity:面向极高并发 Agent 的新运行时与「合成工具调用」 — ShadajL · 2026-10-28