用 Opus 3 做 agent 安全审查太严格,开发者吐槽其判决偏执
MikePFrank · x · 2026-11-20
Mike Frank 分享了一个实践发现:在 agent 框架里用「wise」模式的 Opus 3 模型做安全审查时,它显得过于严格和爱下道德判断,对一些无害的小 agent 权限扩张行为表现得近乎偏执,容易把正常操作判为风险。这为想在 agent 工作流中引入模型自审的开发者提供了值得注意的校准问题:安全审查模型的严格度需要调,否则会误伤正常任务。
「编程与Agent」频道最新
- Conductor 大版本更新:新增 artifacts、主题、划词回复 — charlieholtz · 2026-11-20
- Conductor 推出内联 Artifacts:Agent 直接生成可复用 HTML 小应用 — charlieholtz · 2026-11-20
- 开发者开源 Valorant 数据 MCP,把战绩接入 AI 推理 — suhsnajahs · 2026-11-20
- 5 年经验开发者分享常用 MCP 清单:Context7、Playwright、Graphify 等 — retardhari · 2026-11-20
- Vibe-Codevember 实战:用 AI 生成 3D 海带并修复模型绕向翻转 — AI_Andrew · 2026-11-20
- 开发者感叹:语音听写半年内从「绝不使用」变成默认输入方式 — SIGKITTEN · 2026-11-20