重复堆叠层是否毁掉 CoT 可监控性?安全圈激辩模型纵深
voooooogel · x · 2026-09-04
有人质疑:为什么把 N 层块重复堆两次会「神奇地」破坏思维链(CoT)的可监控性?Meta 的 MobileLLM 也用了层重复技术,这难道只是「深模型就是坏」?
作者回应称,最强的辩护论证是:模型内部能力越强,若在暗中图谋(scheming),越不需要在 CoT 里外化——小模型(如 haiku)比大模型更需要在思维链里表现出 eval awareness。但他承认,这个论证实际上构成对一切模型加深或 scaling 的通用反对理由。
所属事件:循环层架构疑云：CoT 可监控性引发安全圈激辩(7 条相关)→
「安全」频道最新
- Center for AI Safety 发布《机器学习安全导论》课程大纲 — ArtificialOther · 2026-10-21
- Ben Goertzel提出超级智能「基础驱力」通用框架：看它改什么、护什么 — bengoertzel · 2026-10-21
- 美国政府新门户 America.gov 上线:整合 2.9 万网站并支持 AI 举报欺诈 — soleio · 2026-10-21
- 开源工具 EvilWAF：传输层 MITM 代理绕过现代 WAF 行为检测 — godfrey_rono · 2026-10-21
- AI 安全研究者 Manheim 访谈存档：能力错配而非意识觉醒才是真风险 — davidmanheim · 2026-10-21
- Domingos 断言：按 GDPR 口径 LLM 预训练在欧洲属违法 — pmddomingos · 2026-10-21