Ivan Vendrov：生成式 AI 经对抗性优化，总显得比实际更强

dhadfieldmenell · x · 2026-10-29

Ivan Vendrov 引发一场关于 AI 能力认知的讨论：生成式 AI 从预训练、RLHF 到基准测试爬坡，全程都在被对抗性地优化，让用户觉得它比实际更强。附图引用 nostalgebraist 的观点：凡是能被形式化为 eval 的能力都会被攀爬优化，模型能力真正的缺口恰恰留在那些「能感觉到却难以描述」的部分；坚持质疑者显得「不科学」，但正确比「感觉科学」更重要。被引用的 Ruxandra Teslo 则感叹，不少人对 LLM 产出的「口水文（slop）」评价过高，把它捧到 Harold Bloom 级别令她对人性的品味悲观。