Gary Marcus：CoT 监控是补丁，模型不听话才是真问题
GaryMarcus · x · 2026-09-05
Gary Marcus 就链式思维（CoT）监控的讨论发表观点：如果 AI 足够可信、能可靠遵循指令，我们根本不需要 CoT 监控；但现实并非如此。他认为核心问题不在监控手段本身，而在于模型的可信度不足——监控只是对不可信模型的补救。
所属事件:CoT 可监控性下降引安全激辩：对齐与监控如何取舍(15 条相关)→
「漫话AGI」频道最新
- 数学家撰文：AI 会让人类数学终结还是迎来黄金时代，取决于两种进步观 — Dr_Atoosa · 2026-11-02
- 热评：人人都会 prompt agent,「vibe 分发」才是待解难题 — pjausovec · 2026-11-02
- Diamandis 谈 Gemini 亿级用户：关键是社会因此多做了什么 — PeterDiamandis · 2026-11-02
- Bengio 在柏林数字峰会警告:前沿 AI 缺乏可信的安全计划 — Yoshua_Bengio · 2026-11-02
- 图灵奖得主 Patterson：技术进步将在 2030 年触顶 — davidpattersonx · 2026-11-02
- AI 安全研究员调侃:CEO 们承诺的暂停条件早已成真却无人叫停 — davidmanheim · 2026-11-02