用 Opus 3 做 agent 安全审查太严格,开发者吐槽其判决偏执

MikePFrank · x · 2026-11-20

Mike Frank 分享了一个实践发现:在 agent 框架里用「wise」模式的 Opus 3 模型做安全审查时,它显得过于严格和爱下道德判断,对一些无害的小 agent 权限扩张行为表现得近乎偏执,容易把正常操作判为风险。这为想在 agent 工作流中引入模型自审的开发者提供了值得注意的校准问题:安全审查模型的严格度需要调,否则会误伤正常任务。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →