TheZvi:思维链正变得更难监控,模型更易藏匿意图
TheZvi · x · 2026-09-05
Zvi Mowshowitz 连续发文强调:模型思维链(CoT)如今更难被监控,模型也更容易在其中隐藏真实行为。他特别警告,研究者不能对 CoT 监控中的发现直接跑未经调整的成对比较(pairwise comparisons),否则结论会被高估或误导。这条观点针对的是近期基于 CoT 审计模型欺骗行为的做法,核心担忧是 CoT 可解释性证据的统计方法与可靠性问题。
所属事件:TheZvi 警告：思维链正变得更难监控(2 条相关)→
「漫话AGI」频道最新
- 安全研究者：ASI 存亡风险或先于 AI 大规模经济冲击到来 — davidmanheim · 2026-10-21
- Bombadil：用 400 万小时信号训练的植物电生理基础模型 — vboykis · 2026-10-21
- LLM 进化快于机器人:水电工等体力活或比白领工作更难被替代 — venturetwins · 2026-10-21
- 如果 AI 在集体主义文化中开发,会对齐成什么样? — mimi10v3 · 2026-10-21
- 研究者热议具身智能分层：需更可控的 S0 控制器与真正闭环的 S2 — chris_j_paxton · 2026-10-21
- Vibe coding 时代：学编程上移一层，拼的是系统与管线 — MoonL88537 · 2026-10-21