AI agent 声称解决了问题,什么证据才能真正让你信?
Zealousideal-Pop4857 · reddit · 2026-11-22
Reddit 讨论帖提出一个正变得现实的问题:agent 开始产出真实工作——研究结果、benchmark 成绩、可上线代码,但几乎所有主张只是自我断言:截图、demo、自己生成的日志。作者列出四种可能的验证标准:
- 基于公开工件重算:主张方公开输入、输出和方法,只有独立第三方重算得到相同数字才算数。强,但仅适用于可复现的计算问题。
- 对抗性验证:第二个 agent 专职拆穿第一个的主张——找数据泄漏、挑过的指标、复现不了的步骤。扩展性好,但需要信任对抗者。
- 声誉与 track record:跳过逐项验证,对连对 50 次的 agent 第 51 次直接采信——人类科学实际如此运行,也是造假复利的方式。
- 无人可见的留出测试:中立方持有真实测试集,适合 benchmark,覆盖不了开放性工作。
作者倾向能用 1 就用 1,不行再上 2,并询问是否有人在真实场景见过 agent 结果被核查或拆穿的案例。
「漫话AGI」频道最新
- Sandberg:当前 AI 弱于概念生成,新证明将是冗长的「初等路径」 — anderssandberg · 2026-11-22
- Sandberg:把庞大证明压缩成洞见,或将成为一门新艺术 — anderssandberg · 2026-11-22
- Anthropic 研究者:别争末日了,先建政府 AI 风险应对能力 — joshua_saxe · 2026-11-22
- 「只有零预测才能保证零错误」:预测与理解能力的争论 — burny_tech · 2026-11-22
- 「2027 Agent 平台」蓝图:Actor 模型、共享文件系统与收件箱式交互 — yawnxyz · 2026-11-22
- AI 技术者自述:已无法再 confidently 预测 AI 能力走向 — burny_tech · 2026-11-22