Agent 的完成标准与信任协议
AI Engineer · youtube · 2026-07-12
这个演讲讨论了一个现实问题：**当 agent 能生成的工作量远超人类审阅能力时，“完成(done)”到底意味着什么？** 主张是，未来的 agentic 工作不能只追求更快输出，而要建立更强的**信任协议**： - “done” 必须对应一个**明确标准** - 产物要带有**证据** - 由合适的**验证者**检查 - 明确**剩余风险归属** - 清楚授权**下一步动作** 演讲还提到 Paperclip 的 **liveness model**，目标是避免“审批表演”，让任务能按风险自动路由审核，并把 agent 的完成状态从模糊的“我觉得差不多好了”变成别人可以安全接续的、可验证的状态。