CoT 可监控性未被放弃,但新技术或致监控军备竞赛
DavidSKrueger · x · 2026-09-03
AI 安全研究者 David Krueger 承认自己此前关于思维链(CoT)监控性已被放弃的说法不够严谨,并感谢 Leon Lang 指正。
Lang 的核心观点:CoT 可监控性实际上尚未被放弃;但他担心某些新技术可能引发「竞次」(race to the bottom),让模型内部推理越来越难被监控。这是关于前沿实验室是否会在监控性与性能之间权衡的实质性安全讨论。
「漫话AGI」频道最新
- 播客滥用拟人化描述 AI?工程师批其误导且无预测力 — jamesdouma · 2026-09-03
- Altman：一颗加州杏仁的耗水量超过 3.8 万次 ChatGPT 查询 — Polymarket · 2026-09-03
- kalomaze:算法倍增器再强,目标设定这堵墙仍未解决 — kalomaze · 2026-09-03
- 世界银行尼日利亚实验：GPT-4 家教提升 0.31 个标准差，相当于多上 2 年学 — alexvoica · 2026-09-03
- Gary Marcus 附议：全球暂停前沿 AI 训练的提议 — GaryMarcus · 2026-09-03
- 陶哲轩：Lean 验证但人类看不懂的证明不该发表，引发争论 — SoloGen · 2026-09-03