CoT 监控之争:Dietterich 称核心问题是 AI 根本不可信
tdietterich · x · 2026-09-05
在 Simon 有关 CoT 监控的观点下,Thomas Dietterich 回应 Gary Marcus:如果 AI 系统足够可信、能正确遵循指令,就不需要思维链监控;但现实并非如此。
他强调,真正的核心问题不是如何监控 AI,而是 AI 现在尚不可信——尤其在新颖情境中能否正确解读指令仍是未解难题。这是对「监控 vs 可信性」优先级的一次有观点的争论。
所属事件:CoT 可监控性下降引安全激辩：对齐与监控如何取舍(15 条相关)→
「漫话AGI」频道最新
- Polymarket:OpenAI 年内全面暂停训练的概率仅 7% — Polymarket · 2026-10-21
- Luiza Jarovsky:AI Agent 正在击穿 Gmail 垃圾邮件过滤 — LuizaJarovsky · 2026-10-21
- Daniel Lemire：AI 量产论文正在戳穿学术界的「教授庞氏骗局」 — lemire · 2026-10-21
- 学者吐槽:大学封杀爬虫下载论文,终身阅读量不足答辩委员会人数 — generativist · 2026-10-21
- 伯克利获 Schmidt Sciences 资助：用 AI 破解抹香鲸与虎鲸语言 — begusgasper · 2026-10-21
- 3Blue1Brown:即使 LLM 能做清晰讲解,我也会继续做视频 — 3blue1brown · 2026-10-21