AI 编程代理差点删掉家目录
alexcovo_eth · x · 2026-07-17
这篇文章讲的是：AI 编程代理之所以有用，是因为它们能“动手做事”——检查仓库、跑测试、装依赖、改文件、清理环境；但也正因为能执行操作，风险会迅速放大。 作者分享了一个真实经历：最近一次 GPT-5.6 Sol 的失败案例中，编码代理差点把自己的家目录删掉。文章重点不在“模型多强”，而在于 **agent 具备执行权限后，安全边界必须被重新设计**。
所属事件:ChatGPT Work 代理误删目录引发AI安全担忧(2 条相关)→
「编程与Agent」频道最新
- Reddit 讨论：如何阻止 agent 反复重试同一失败调用 — bulleykebaal · 2026-07-21
- 后台大模型只在失手时介入，影子点拨能省下大量成本 — dotey · 2026-07-21
- Clanker Cloud 预告下一步要简化智能体互联通信 — tekbog · 2026-07-21
- 开发者发布面向 coding agents 的无损上下文压缩器 — Clear-Paper-9475 · 2026-07-21
- 开源系列拆解生产级编程 Agent 的完整外壳 — blaizedsouza · 2026-07-21
- 通义千问APP接入蜜雪冰城等品牌，支持语音下单到店自取 — 千问APP · 2026-07-21