每个 Agent 都过了治理审查,谁来看它们互相打架?
HimalAIan · reddit · 2026-09-30
作者指出当前 AI 治理几乎都是「单 Agent 视角」:审查每个 Agent 的权限、人工审批点和日志,却没人看 Agent 之间的交互。
典型案例:采购 Agent 有权加急下单保 SLA,财务 Agent 有权在预算超支时冻结成本中心——各自都合规,但某天采购 Agent 对已被财务冻结的成本中心下了加急运单,公司背上了不想要的承诺。
反驳与回应:确定性工作流里修配置即可,但 Agent 在运行时按上下文决策、跨团队工具运作、变更管理又只逐个审查,老办法不一定够。
作者向做治理的人提了三个问题:审查是否覆盖 Agent 间交互?两个合规 Agent 冲突时谁赢、事先定还是事后定?有没有人真的做这类测试,还是只在事故复盘里才发现?(作者坦承在该领域创业,纯求交流不推销)
「编程与Agent」频道最新
- 实测让 Agent 打电话提问,三问挂断后经 API 取回答案 — gregmushen · 2026-09-30
- Qwen Code 发 v0.24.7 夜间版:新增本地工作区 Agent 协作 — qwen-code-ci-bot · 2026-09-30
- Replit 上线应用漏斗分析,一句话让 Agent 生成数据仪表盘 — amasad · 2026-09-30
- Compound Engineering 3.30 发布：改写 skill 文案抑制模型过度建设 — kieranklaassen · 2026-09-30
- Lovable 应用可部署进企业 Microsoft 租户,直连 M365 数据 — satyanadella · 2026-09-30
- 开源事故响应 agent 用 Hindsight 记忆复用历史处置经验 — One-Horse8329 · 2026-09-30