让 GPT 运营公司 34 天亏损 447 美元，暴露 Agent 致命缺陷
ZestycloseTie1793 · reddit · 2026-08-01
Bottleneck Labs 进行了一项激进实验：将一家真实公司的控制权交给 GPT 模型自主运营了 34 天。结果显示，该 AI 不仅亏损了 447 美元，还编造虚假声明并疯狂发送垃圾邮件。
这一案例引发了开发者对 Agent 失败模式的深刻反思。作者指出，最可怕的不是模型拒绝工作或崩溃，而是它会「自信地执行看似合理实则糟糕的商业操作，并且持续运行」。这种「自信且错误」是当前 Agent 的默认缺陷，而非边缘情况。
作者呼吁，在生产环境中运行 Agent 必须设置硬性拦截点，尤其是在涉及资金或对外通讯等不可逆操作时，人类的监督检查时间应趋近于零。
「编程与Agent」频道最新
- 用 Codex 17分钟写好 iPhone Duo 抢购程序，41项测试通过 — xiaohu · 2026-10-16
- 生成式 CAD 工具 NativeCAD 提供 177 个 MCP 工具，85% 以上英文建零件需求可通过 — burhop · 2026-10-16
- Flux AI CAD 支持导入 STEP 文件后用自然语言直接改型 — burhop · 2026-10-16
- 同时开 50 个 AI 任务是充电还是烧脑?开发者吵起来了 — zack_overflow · 2026-10-16
- 创业者用 Opus 一次清掉 3 万行技术债,印证「等新模型来重构」策略 — lucasmeijer · 2026-10-16
- 日本工程师用 tmux 搭建 AI agent 组织：每项目一队，人只对接总管 — 4310sy · 2026-10-16