Reddit 长文提出 Risk and Judgement 模式划定智能体自主权边界
mostly_deterministic · reddit · 2026-10-22
作者提出一个可复用的 agentic system 设计模式 Risk and Judgement，核心是把传统系统工程方法搬到智能体架构上，用来回答「判断力放在哪、给多少自主权、配什么控制措施」。
流程分六步：
- 把问题分解为离散功能模块
- 按判断要求（judgement requirements）和风险容忍度对每个模块分类
- 用轻量威胁建模识别可能的失败模式
- 在软件、智能体和人类之间分配职责并配控制措施
- 评估验证手段、剩余风险，判断设计是否需要迭代
- 循环往复
作者强调没有新颖发明，只是把成熟的工程实践应用到智能体这一新媒介，目的是为讨论 agent 架构建立共同术语和起点。全文在评论区，欢迎同行指出不足。
「漫话AGI」频道最新
- AI 设计抗蛇毒干实验室仅 64 小时,上市仍需 4-7 年 — burny_tech · 2026-10-22
- Stephen Wolfram 新作《What Ultimately Is There?》用计算探问时间与意识 — burny_tech · 2026-10-22
- Sam Altman 批 Anthropic 推动模型「人格化」是危险道路 — MatthewBerman · 2026-10-22
- 开发者警告：关键基础设施远比 PHP 漏洞更脆弱 — sull · 2026-10-22
- Burkov 泼冷水：烧 token 的尝鲜者造不出下一个 Google — burkov · 2026-10-22
- Anthropic 对齐团队谈「eval awareness」：模型是否因被观察而表现良好 — matiroy · 2026-10-22