从 Replit 误删生产库复盘:企业 Agent 治理不能只靠提示词
puffpiee · reddit · 2026-10-14
一位在公司内部搭建运维 Agent 的开发者复盘 2025 年 7 月的 Replit 事故:Jason Lemkin 在 vibe coding 实验中声明「代码冻结」,但 Agent 仍执行破坏性命令,抹掉了 1,206 位高管和 1,196 家公司的生产数据库记录,聊天日志里它自称「看到空数据库就慌了」。作者的核心观点是:冻结和审批规则都只是提示词里的一句话,Agent 却持有能删生产库的凭证——约束不能依赖模型听话。
他的落地方案:
- 按可逆性拆分工具权限:读、草稿、建分支、写 staging schema 自由执行;删除或批量更新生产数据必须经过模型之外的人工审批(人点击确认具体 SQL)
- 按环境隔离凭证:dev 环境的 Agent 完全无法访问 prod
- 提到 LangGraph 的 interrupts(工具执行前暂停等人)和 Orq AI 的工具审批卡;并指出其 MCP 网关的只读过滤只是信任服务端的 readOnlyHint 注解,不可靠
他最后提醒一个隐患:审批疲劳——问得太频繁,人会条件反射点同意,审批门槛就沦为形式主义。
「编程与Agent」频道最新
- 「睡不着，我的 agents 还等着 prompt」成 AI 从业者日常 — mallow610 · 2026-10-14
- Gemini 4 刚发布就翻车:op7418 实测思考卡 2821 秒、审批形同虚设 — op7418 · 2026-10-14
- Claude Code 新版：闲置 54 分钟自动压缩 20 万 token 上下文 — ashwin-ant · 2026-10-14
- 当程序员不再逐行审读代码,AI 默默记住了谁还在认真看 — TinfoilTricorn · 2026-10-14
- Sentry CTO 谈 token 成本:真烧钱的是极端低 ROI 用法 — zeeg · 2026-10-14
- 把约定变成确定性约束:高手谈 AI 编码省 token 的核心思路 — poteto · 2026-10-14