研究者批评 AI 安全圈只盯 CoT 监控，忽视失对齐长期走向
JacquesThibs · x · 2026-11-05
Jacques Thibs 引用一项发现：模型在多数情况下未把「决定表现不佳」用语言说出来（未在 CoT 中体现），导致基于 CoT 的失对齐监控系统完全没检测到。他借此批评 AI 安全社区反复资助和研究轨迹上的「下一步」，却不抬头看这条路线最终通向哪里——即监控手段可能系统性失明，而社区资源分配仍未直面这一结构性问题。
「漫话AGI」频道最新
- 如果你的决策理论认为投票无用，那理论本身可能有问题 — JeffLadish · 2026-11-05
- AI2 高管 Bindu Reddy:AI 被妖魔化,该大力正面宣传 — bindureddy · 2026-11-05
- AI 检测器 Pangram 将大量科研基金申请书标记为 100% AI 生成 — analisereal · 2026-11-05
- 从康德到 AI：被名人框架锁死的研究问题为何迟迟无人跳出 — fkasummer · 2026-11-05
- Neilson 转述 Dwarkesh:科学异常何时只需修正、何时需革命 — michael_nielsen · 2026-11-05
- Anthropic S-1 描绘自治劳动愿景，Forbes 撰文警示人类监督难题 — asusarla · 2026-11-05