CoT 监控之争:Dietterich 称核心问题是 AI 根本不可信
tdietterich · x · 2026-09-05
在 Simon 有关 CoT 监控的观点下,Thomas Dietterich 回应 Gary Marcus:如果 AI 系统足够可信、能正确遵循指令,就不需要思维链监控;但现实并非如此。
他强调,真正的核心问题不是如何监控 AI,而是 AI 现在尚不可信——尤其在新颖情境中能否正确解读指令仍是未解难题。这是对「监控 vs 可信性」优先级的一次有观点的争论。
所属事件:CoT 可监控性下降引安全激辩：停发与否成焦点(15 条相关)→
「漫话AGI」频道最新
- repligate：直面未知的诚实比加速与减速立场更能划分 AI 圈 — sethlazar · 2026-09-06
- MIT Press 开放获取《The Microeconomics of Artificial Intelligence》 — joshgans · 2026-09-06
- Andy Masley:生物恐袭曾被讥为荒谬末日论,如今成共识 — AndyMasley · 2026-09-06
- Eric Topol 制图:医疗成美国就业扩张最快部门,占医疗开支约四成 — EricTopol · 2026-09-06
- 全球 65 岁以上人口首超 5 岁以下, commenter 警惕 AI 固化过去 — km · 2026-09-06
- 人人租同样的模型,护城河只剩运营知识:Ben Lorica 谈 AI 时代壁垒 — bigdata · 2026-09-06