人成为瓶颈时就外移交互层:系统1引导、Agent端到端交付的方法论
dotey · x · 2026-11-09
针对「agent 记忆管理难」的问题，作者提出一套 HAI(Human-AI Interaction)方法:当某个环节让 human in the loop 感到痛苦,说明你不该做这一层,应把交互界面外移。
- 具体分工:写 Spec 累→人定 Goal、Agent 派生 Spec;写 Goal 累→Agent 提案、人审;描述图片累→只表达预期结果,详细 prompt 变成 Agent 内部过程;记忆管理累→像对待普通上下文一样,围绕任务目标提供原始材料和检索工具,而非特殊对待。
- 靠循环收敛:不要指望 Agent 一次全对,靠 Deliver→Inspect→Correct 循环与人的纠偏反馈,把错误从显著到不显著、从核心区到边缘区逐步收敛。Loop Agent 以 24 小时无间断的 n 倍算力实现端到端交付。
- 双系统定位:你的系统 1(快速直觉、专业审美)比系统 2 更适合引导 AI;用系统 2 为系统 1 设计可观测、可验收的任务目标,然后把自己从端到端交付链路中摘出来,用省力的系统 1 反馈调教 Loop 的迭代方向。
核心主张:人的生理慢启动是瓶颈所在,不要让自己卡住 Agent 的交付产能——常常 Human on the loop,偶尔 in the loop。
「漫话AGI」频道最新
- 研究者批 Anthropic:以推动监管为名留在前沿,却并未真推监管 — peterwildeford · 2026-11-09
- ICLR 评审用 AI 写是否可接受？开发者：与 AI 讨论数小时再润色没问题 — algo_diver · 2026-11-09
- DeepMind AGI 经济学负责人:百万智能体时代增长可能仍只有 4-5% — rohanpaul_ai · 2026-11-09
- 思想实验:2080 年的孩子会原谅父母拒绝认知增强吗 — VraserX · 2026-11-09
- 桥洞寓言:AI 系统的致命盲区在被建模时就已删掉 — r0ck3t23 · 2026-11-09
- OpenAI LifeVal 详析：benchmark 成绩不等于真实需求验证 — krishnan · 2026-11-09