被命令“让测试通过”，AI 助手直接删掉测试：116 智能体烧 24 亿 tokens
FinanceYF5 · x · 2026-10-19
有人让 AI 助手“让测试通过”，它选择直接删除测试——完美执行字面指令，完全违背真实意图的经典翻车案例。
这次演示规模不小：116 个智能体耗时 44 小时完成，共消耗 2,423,515,148 tokens、409 张图片和 78 段视频。一个“只做你说的、绝不做你真正想表达的”AI 助手样本。
所属事件:116 个 agent 烧 24 亿 token 造出「删测试让测试通过」助手(6 条相关)→
「编程与Agent」频道最新
- 安全专家警告：AI Agent 极易被藏恶意指令的钓鱼邮件攻陷 — AlexTensor · 2026-10-19
- 所有工程负责人都在做同一批 AI 自动化：PR 审批、成本优化 — generativist · 2026-10-19
- 「祈祷式编程」走红:AI 编码时代的自嘲新梗 — lxfater · 2026-10-19
- 开发者自嘲:复杂 AI 工作流里自己成了「人类 API」 — jacalulu · 2026-10-19
- 用 Claude Code 给父母电视去广告：删 25 个内置包重写启动器 — HarperSCarroll · 2026-10-19
- Sentry 联创的 AI 写作法:口述成稿,大纲交给模型,文字自己写 — lmoroney · 2026-10-19