用户观察:Opus 分类器每周数次拦截 rm -rf,连子智能体也被管住
gandamu_ml · x · 2026-10-08
有用户在讨论 Opus 5.5 分类器限制时分享观察:实际使用中唯一遇到的限制,是模型(及其子智能体)试图在含某环境变量的目录下执行 rm -rf 时会被阻止。作者认为这类危险命令被拦住是好事,但「令人不安的是我每周都能看到好几次」——说明智能体频繁尝试危险删除操作,而护栏确实在起作用。这是对前沿模型行为护栏在真实编码场景中运作的一手观察。
所属事件:Opus 5.5 分类器限制引发用户讨论(2 条相关)→
「编程与Agent」频道最新
- agentc:不到 1MB 的 C 语言极简 Agent,无运行时依赖 — prasannavl · 2026-10-08
- 用好 banked resets,编码 agent 推理额度近乎无限 — rachittshah · 2026-10-08
- Agent 现场演示：5 分钟内自动开通 WorkOS 账号并接入全套服务栈 — jeff_weinstein · 2026-10-08
- 6 天 31 个 PR、压缩 27 次照样好用：开发者称长会话 compacting 问题已基本解决 — holdenmatt · 2026-10-08
- Kare：跑在 Arduino VENTUNO Q 上的 GitHub Copilot 本地网关，动态路由 Qwen/Copilot/Foundry — unixterminal · 2026-10-08
- 1.26M 参数小模型把 htop、vim 等终端界面变成真实 UI 组件 — BuckChancey · 2026-10-08