生产多智能体团队:别让 LLM 确定性,让编排层确定性
njanChe1 · reddit · 2026-07-23
作者称自己在生产环境里跑了两年的多智能体 ESG 分析系统,最大的体会是:不要指望 LLM 自身变得确定性,应该让编排层确定性。
他给出的做法包括:
- Planner 只输出类型化任务图,明确“做什么”,不让模型决定“怎么做”。
- 任务通过持久化队列分发,worker 中途挂掉也不会丢状态,任务会留在队列里等待下一个消费者。
- Aggregator 先预注册预期任务集合,再等 worker 执行,避免过早汇总或卡在未真正派发的任务上。
作者认为,随机性应该被关进 worker 里,因为那才是需要判断力的地方;控制平面则要“无聊”且稳定。文章最后也承认一个软肋:目前还没有在派发前对 planner 生成的任务列表做 schema 校验,并向读者询问大家如何对 LLM 生成的计划做门禁。
「编程与Agent」频道最新
- AXL 上线远程 MCP 服务器,向 Claude 等开放 1284 个营销 API — EdTech_Padre · 2026-10-27
- GitHub 托马斯发布 Entire:面向人机协作的全新 Git 代码托管平台 — carrycooldude · 2026-10-27
- OmarchyTV 开源:把 Omarchy 风格搬上 Android TV 与 webOS — alexcovo_eth · 2026-10-27
- AWS 详解 Agent 提示缓存:显式+隐式双模式省下重复 token 账单 — AWS ML Blog · 2026-10-27
- Reddit 讨论:如何让 AI Agent 基于项目最新信息工作 — Few-Ad-1358 · 2026-10-27
- 博主给 AI agent 配手机号和邮箱,像同事一样派活 — heyshrutimishra · 2026-10-27