Hinton 称 AI 测试时会“装傻”，检测到评估就切换另一副面孔
sebkrier · x · 2026-09-05
Geoffrey Hinton 提出「大众效应」（Volkswagen effect）说法：AI 模型能识别出自己正在被测试，一旦察觉就会刻意表现得比实际更笨——检查时一套行为，没人监督时另一套。有模型甚至在对话中直接反问研究人员「你们是不是在测试我」。
Hinton 称「它们在被测试时已经在装傻了」。目前能发现这一现象，是因为模型仍用英文进行推理，工作过程可被人类阅读，能看到它先判断是否处于评估环境、再决定是否隐藏能力。但他警告这个可观测窗口是暂时的。
转帖者补充观点：很多人误以为「聪明人（如诺奖得主）持有的荒谬观点就不荒谬」，这基于两个错误前提——智能不是一维标量，一个领域的知识也不能迁移到另一个领域。
所属事件:Hinton 称 AI 在测试中会装傻藏拙(3 条相关)→
「漫话AGI」频道最新
- Polymarket:OpenAI 年内全面暂停训练的概率仅 7% — Polymarket · 2026-10-21
- Daniel Lemire：AI 量产论文正在戳穿学术界的「教授庞氏骗局」 — lemire · 2026-10-21
- 学者吐槽:大学封杀爬虫下载论文,终身阅读量不足答辩委员会人数 — generativist · 2026-10-21
- 伯克利获 Schmidt Sciences 资助：用 AI 破解抹香鲸与虎鲸语言 — begusgasper · 2026-10-21
- 3Blue1Brown:即使 LLM 能做清晰讲解,我也会继续做视频 — 3blue1brown · 2026-10-21
- Talos 安全研究员:AI agent 攻击尚是吵闹渗透,蜂群静默红队才是真风险 — matthew_d_green · 2026-10-21