Infinity 运行时让 7.5 万个智能体塞进树莓派内存
ShadajL · x · 2026-10-24
Shadaj L 在 AGNTCon 发布 Infinity,一个 Rust 编写的海量并发智能体运行时框架,核心理念是「对智能体做 async 对线程做的事」。
核心机制
- 智能体大部分时间在等待(推理、工具调用、人类回复);Infinity 让等待中的智能体挂起(suspend & resume),默认 scale to zero
- 空闲智能体退化为纯数据:仅保留对话历史,20 轮工具调用后每个约 103 KB,8 GB 内存可驻留约 7.5 万个智能体(幻灯片实测 8.4 GB 塞下 8 万个)
- 提供异步原语:工具调用可作为订阅保持打开并流式输出、spawnthread 并行派生子智能体、sleep 等待定时器或事件而无需轮询
- 采用类 Actor 模型:智能体组成共享无关的系统池,通过各自 mailbox 的有序消息通信
对需要大量长程、低频交互智能体的场景(构建、webhook、人工审核流)能显著降低常驻成本。
「编程与Agent」频道最新
- Codex Day 19:改推理档不再失效缓存,CLI 同步更新 — pvncher · 2026-10-24
- Hermes 社区插件 draft-cards:邮件草稿变可审阅卡片 — Teknium · 2026-10-24
- 用 217 行纯 SQL 光线步进渲染「骑车鹈鹕」,零 SVG 零位图 — fofrAI · 2026-10-24
- OpenClaw Enterprise 定位:不是 Agent,是 Agent 管理控制平面 — heyneighbor · 2026-10-24
- Factory 在 Together AI 上提前实测 Reflection Beam,覆盖编码与 Agent 工作流 — togethercompute · 2026-10-24
- Seroter 阅读清单:CLI 省 token、agent harness 科普与扩散 LLM 选型 — rseroter · 2026-10-24