Agent 分层新范式:单体 Agent 拆成生成层加小决策器
aigclink · x · 2026-09-19
文章提出 Agent 架构正在从「一个强模型 + prompt + 工具循环」的单体范式,转向「生成层 + 一批小决策器」的分层架构,类比当年 PHP 单体拆成网关/鉴权/限流。
核心论点
- 单体 agent 在 demo 阶段表现好,上生产会撞三堵墙:慢、贵、无法量化解释(说不清幻觉率和误杀率)。
- 判断和生成是两种任务:判断需要固定标签集、可校准的概率、可调阈值和可画的 ROC 曲线;生成模型只能给「我觉得有风险,建议人工确认」这类无法量化的输出。
落地三步
- 标出 agent 里所有判断点:工具授权、模型路由、内容准入、结果验证;
- 每个判断点定义标签集、阈值、两类误判的代价;
- 用 PASS/FAIL/不确定三态输出,不确定时导给人,不让模型硬猜。
提醒
- 小模型专职判断并不新,传统 NLP 干了十几年;真正的难点是标注和调阈值——3% 的幻觉/误杀率在 demo 无感,在生产就是每天几十个投诉。
- 加这层会让系统更复杂而非更简单,只有当 agent 真在替人做有后果的事时才值得;且需权衡成本与收益。
「编程与Agent」频道最新
- 独立开发者的 AI 工作流：GPT-Image 加 Meshy 造出恐怖游戏新敌人 — AIandDesign · 2026-09-19
- 用双 agent 分工省额度：一个写码一个测试 — ___Patrice___ · 2026-09-19
- onPanda 开源:token 级编辑 LLM 输出,可接管 Claude Code 等 harness — Fancy_Fanqi77 · 2026-09-19
- Muse 用例目录新增 90 个，总数达 678 个附即用提示词 — armand_ruiz · 2026-09-19
- 不等 waitlist:实测用 Vercel AI Gateway 跑通 Jev 评测接口 — AlchainHust · 2026-09-19
- 让 Sonnet 3.6 住进模拟世界:专设「善意地狱」训练 — repligate · 2026-09-19