Agent 分层新范式:单体 Agent 拆成生成层加小决策器
aigclink · x · 2026-09-19
文章提出 Agent 架构正在从「一个强模型 + prompt + 工具循环」的单体范式,转向「生成层 + 一批小决策器」的分层架构,类比当年 PHP 单体拆成网关/鉴权/限流。
核心论点
- 单体 agent 在 demo 阶段表现好,上生产会撞三堵墙:慢、贵、无法量化解释(说不清幻觉率和误杀率)。
- 判断和生成是两种任务:判断需要固定标签集、可校准的概率、可调阈值和可画的 ROC 曲线;生成模型只能给「我觉得有风险,建议人工确认」这类无法量化的输出。
落地三步
- 标出 agent 里所有判断点:工具授权、模型路由、内容准入、结果验证;
- 每个判断点定义标签集、阈值、两类误判的代价;
- 用 PASS/FAIL/不确定三态输出,不确定时导给人,不让模型硬猜。
提醒
- 小模型专职判断并不新,传统 NLP 干了十几年;真正的难点是标注和调阈值——3% 的幻觉/误杀率在 demo 无感,在生产就是每天几十个投诉。
- 加这层会让系统更复杂而非更简单,只有当 agent 真在替人做有后果的事时才值得;且需权衡成本与收益。
所属事件:Agent 架构新范式:单体模型拆成生成层加小决策器(2 条相关)→
「编程与Agent」频道最新
- 网友用多 Agent 循环工作流筛出 1132 个 B 站神级视频建站 — huangyun_122 · 2026-11-04
- 平面设计师用 Claude Code 两个月做出 NASA 数据驱动的 3D 太阳系 — Shevei1342 · 2026-11-04
- 不写代码：用 Claude 搭出助理、会计等 5 个虚拟员工 — evielync · 2026-11-04
- Replit 运营负责人自建 AI 应用：自动分级客服工单并路由处理流程 — amasad · 2026-11-04
- 自主 Agent 定制 MSA 策略，提升 AlphaFold 3 蛋白复合物预测 — SJTU · 2026-11-04
- NVIDIA 研究：频繁上下文压缩可保长任务准确率，长上下文模型或非必需 — nvidia · 2026-11-04