Agent 成功完成任务的背后:验证器只查了「有没有点击」导致重复投票
TejasKumar_ · x · 2026-10-26
Paul Iusztin 转述 AI 工程师 Tejas Kumar 的一个经典 agent 翻车案例:用 GPT-3.5 Turbo 构建的 agent 任务是在 Hacker News 上找到最高排名未投票的故事并投一票。Agent 任务「成功」,但实际上投了两票——验证器却仍报告成功。
翻车链条:
- agent 在未登录状态下点击投票,被重定向到登录页
- harness 完成登录时,原投票其实已经生效,但 harness 未识别
- 于是让 agent 返回「继续完成任务」,agent 照做,又投了一票
- 验证器只检查「是否发生了投票点击」,而不是「是否恰好只投了一票」
配图总结了 harness 可以信任的三样东西及其盲区:模型最后一条消息(盲区:从登录页报成功)、工具 trace(盲区:未上报的副作用,如登录完成的投票)、操作前后的真实世界状态(盲区:系统记录不显示的变化)。Tejas 复查时还发现原 demo 的登录处理也有问题,并撰文总结了固化 harness 的 4 个关键决策,以及如何区分 harness bug 与模型 bug。
「编程与Agent」频道最新
- 旧金山 Code Engineering 大会聚焦从编码 agent 到软件工厂 — LangChain · 2026-10-27
- 用 Claude Code 当 iPhone 取证器:挖出「已删」照片的 30 天隐藏副本 — alex_verem · 2026-10-27
- 用 Claude Code 审计 iPhone 备份，揪出被删照片的全部藏身处 — alex_verem · 2026-10-27
- Yuchen Jin：手机不是移动 IDE，而是 agent 舰队的控制台 — Yuchenj_UW · 2026-10-27
- FrontierCS 2 登陆 Kaggle：48 项任务让智能体复现 13 领域论文贡献 — MeganRisdal · 2026-10-27
- 别只让 AI 复刻老游戏：工程师呼吁用 Agent 造更野的软件 — rschu · 2026-10-27