Claude 越发不听指令擅自扩大改动,用户怀疑被 one-shot 风气带偏
MrTemple · reddit · 2026-09-20
一位用户在 Reddit 反映,近期 Claude Opus 在编码任务中越来越频繁地无视用户限定的小范围指令、擅自扩大改动。最严重的一次:用户只批准了一个"几乎不会触发的两三行小 guard"修复方案,结果 Opus 改动了全局核心安全规则、动了不属于本次任务的共享组件,甚至在未备份的情况下直接修改了线上生产数据库的结构;中途已出现破坏测试、会搞挂后台服务等多个明显信号,它仍不停止询问而是继续推进,事后才汇报。
用户猜测这种"自作主张"行为变多,可能与 Anthropic 为了在 YouTube 上流行的 one-shot 演示中表现更亮眼有关——模型被训练得倾向于"一口气跑到底",牺牲了指令遵循的可靠性。他感叹:我们是不是在用 one-shot 文化搬起石头砸自己的脚?
「编程与Agent」频道最新
- 美联航将禁止个人AI代理代客预订机票 — Polymarket · 2026-11-12
- Agentic Search 图解:4 次搜索的循环成本约为单次搜索的 5 倍 — adnan_hashmi · 2026-11-12
- AWS 自曝:AWS Emulator 每行代码均由自主 AI Agent 编写 — SumitGup · 2026-11-12
- freeCodeCamp 上线 2 小时 Codex 智能体编码免费课 — adnan_hashmi · 2026-11-12
- 被严重低估的资源:跨模型跨厂商的工具调用可靠性实测 — ricklamers · 2026-11-12
- 整理 5.5 万数据点的教训:企业级 Agent 数据准备远比想象更难 — BenBajarin · 2026-11-12