Buck Shlegeris:不透明串行深度增加是 CoT 可监控性崩坏的最可能路径
RyanGreenblatt · x · 2026-09-11
前 Redwood CEO Buck Shlegeris 表示，他多年来一直担忧 CoT（思维链）可监控性会走向失效。他指出可能的原因有多种，但架构变化导致的「不透明串行深度」增加，是导致可监控性大规模退化的尤其可能的路径。
这是对 Redwood Research 同日发布的可监控性透明化提案的呼应评论，与该提案配合阅读。
「安全」频道最新
- Sam Altman 会见美国电力巨头,推销 OpenAI 电网网络安全技术 — Polymarket · 2026-09-11
- IonQ 论文:破解 ECC 256 需约 1.94 万量子比特,运行 26 天 — jamestagg · 2026-09-11
- 剑桥学者 Krueger 发起 AI 生存风险运动,呼吁公众参与推动安全行动 — DavidSKrueger · 2026-09-11
- 剑桥学者 Krueger 发片谈 AI 灭绝风险：我们该怎么做 — DavidSKrueger · 2026-09-11
- Anthropic 呼吁全球暂停 AI 开发，罗姆尼称安全防护是最紧迫优先事项 — michael_nielsen · 2026-09-11
- 从业者痛陈 AI 安全测试体制三方激励全部失灵 — joshua_saxe · 2026-09-11