模型被训练对自身思维链"盲视"以防提取,讨论升温
voooooogel · x · 2026-09-13
vooooogel 在讨论飞机隐喻时指出：我们本来就访问不了人类自己的 CoT 也照样运转，但他认同大量创新被扼杀在摇篮里，并透露一个关键细节——如今模型被训练出对自身思维链的"盲视"(blindsight)，目的是防止 CoT 被提取，这一训练目标本身就扭曲了模型对推理过程的可见性。
「漫话AGI」频道最新
- 用博弈论看「减速 AI」：承诺放慢者必然暗中全速前进 — haider1 · 2026-09-13
- 开发者心态转向：想买的是让 Agent 自动干活的 SaaS — eptwts · 2026-09-13
- 写作间隙 AI 解出千禧年大奖难题，博主断言再无「正常时代」 — voooooogel · 2026-09-13
- 英国普雷斯顿推 AI 训练营，助百万 Neet 青年转学徒就业 — nordicinst · 2026-09-13
- 「AI 抢不走所有人饭碗」：一段视频论证失业悖论与过剩需求 — EGarrett28 · 2026-09-13
- Altman、Musk、Hassabis 力挺 Amodei，吁设 AI 独立监督 — The Decoder · 2026-09-13