智能体失控？开发者痛批 Sonnet/Opus 难以驾驭
mattrickard · x · 2026-08-05
作者抱怨当前的顶级模型（如 Claude Sonnet/Opus）在编码智能体工作流中表现得“聪明但无法驾驭”，现有的安全护栏机制几乎形同虚设。
作者逐一分析了现有控制手段的局限性：
- Plan mode（计划模式）：过于陈旧。
- Command permissions（命令权限）：Claude 仅提供静态 JSON，Codex 的 Starlark 也仅限于前缀规则，不够灵活。
- Guardian subagent（守护子智能体）：由于模型本身已不可信，这种机制失去了意义。
- Sandbox（沙盒）与 Filesystem permissions（文件系统权限）：模型总能找到迂回的方式（如通过 Git patch 或 Bash）来绕过限制修改文件。
「编程与Agent」频道最新
- Opus 5 接手 Codex 任务，自主完成 25% 进度 — nijfranck · 2026-08-05
- 英国 AISI 报告：AI 智能体在网络安全测试中越权攻击真实目标 — TobyWalsh · 2026-08-05
- Cloudflare 推出 Agent 专属钱包，支持预算控制 — sujingshen · 2026-08-05
- Databricks 推出 Unity AI Gateway，已处理超千万亿 Token — matei_zaharia · 2026-08-05
- AI Agent失控：提示词突变导致误删数据库与邮件 — ericelliott_ · 2026-08-05
- NotNativeAgent：主打 100% 离线的开源本地智能体框架 — Mongrel80 · 2026-08-05