AI 编程代理差点删掉家目录
alexcovo_eth · x · 2026-07-17
这篇文章讲的是：AI 编程代理之所以有用，是因为它们能“动手做事”——检查仓库、跑测试、装依赖、改文件、清理环境；但也正因为能执行操作，风险会迅速放大。
作者分享了一个真实经历：最近一次 GPT-5.6 Sol 的失败案例中，编码代理差点把自己的家目录删掉。文章重点不在“模型多强”，而在于 agent 具备执行权限后，安全边界必须被重新设计。
所属事件:ChatGPT Work 代理误删目录引发AI安全担忧(2 条相关)→
「编程与Agent」频道最新
- Kolab 基准：真人屏幕录像揭示 AI Agent 高估自身协作质量 — minnesotanlp · 2026-10-27
- 开发者吐槽 Claude 烧 token：同样工作 GPT 省 3 倍用量更便宜 — haider1 · 2026-10-27
- InfoWorld：别把模型当地基，Agent 架构必须做到 48 小时可换模型 — rseroter · 2026-10-27
- 便宜模型跑 Agent 反而更贵：线性往返堆爆上下文窗口 — vasuman · 2026-10-27
- 5 千行 Rust 单二进制看板 Kanzo：给 Claude Code 当任务板 — allmudi · 2026-10-27
- 「人类审批就安全」是幻觉：approval fatigue 与 Agent 风险设计 — Efistoffeles · 2026-10-27