200 个并发 LLM agent 跑在 1GB 内存、$6/月的 VM 上:瓶颈是自家的保存锁
swarmagent · reddit · 2026-10-23
Swarm 团队(开源、Apache 2.0)在两台 Google e2-micro(2 共享 vCPU、1GB 内存、2GB swap)上做对照实验,模拟 200 个并发 agent 在真实仓库(约 3100 个文件)中执行小任务,每个 agent 调用 Gemini 3.5 Flash Lite 约 4-5 次,所有 agent 同一秒启动。
瓶颈所在:每个 agent 约保存 30 次(流式文本、工具调用、结果、成本记录),而每次保存都要抢一把账号级锁以保证花费统计精确——100 个 agent 排一条队,最后一个仅保存首条消息就等了 18 秒。
三项修复
- 普通保存只锁自己的会话,仅改变花费总额的保存才取账号锁
- 等磁盘确认前先释放锁(用崩溃测试验证不丢数据)
- 缓存最近读取的会话,避免每次保存重新解码
结果(100 agents 同分钟对比)
- 全部完成:42 秒 → 23 秒
- 等锁总时长:1,422 秒 → 61 秒
- 落盘数据量:344MB → 149MB
150 个 agent 无 swap 51 秒完成;200/200 在机器极限下全部完成,且每轮结束后账号花费总额与 agent 实际花费精确一致。
「编程与Agent」频道最新
- 微软研究院与卡内基梅隆将在纽约办 AI Agent 评估与治理研讨会 — nouhadziri · 2026-10-23
- 清华 THU-KEG 发布 RIDAR:自动检测并干预科研智能体造假行为 — THU-KEG · 2026-10-23
- 一个尾点破防 Copilot:VS 与 SSMS 修复 RCE 漏洞 CVE-2026-103572 — wunderwuzzi23 · 2026-10-23
- 安全专家建议:软件包只装发布超 24 小时的,系统更新则立即打 — altryne · 2026-10-23
- 开发者用 OpenAI Realtime API 语音控制机械臂:仿真实训技能+视觉定位玩井字棋 — Tarun122 · 2026-10-23
- 同一份 LoRA 微调 Qwen3.5 全系:9B 反超 27B,收益几乎全靠学会说「无关系」 — spilldahill · 2026-10-23