CoT 非唯一观测手段,但移除显式推理削弱纵深防御
schwarzjn_ · x · 2026-09-03
在关于思维链可观测性的讨论中,作者回应观点:没有人认为仅靠 CoT 就足以支撑可观测性,线性探针、定向评测等同样必要;现实中最优策略是「防御纵深」(defence-in-depth),而移除显式推理会削减其中重要的一层——即使这一层并不完美。
所属事件:OpenAI 新技术削弱 CoT 可监控性，AI 安全圈激辩监控替代方案(32 条相关)→
「漫话AGI」频道最新
- Yacine:模型智力已超我,但直觉与品味仍无可替代 — yacineMTB · 2026-09-03
- Mallow 主张:机器人应当是物理隔离的气隙系统 — mallow610 · 2026-09-03
- Yacine：想让 AI 做好某任务，就为它发布一个 RL 环境 — yacineMTB · 2026-09-03
- Sam Altman：下一代模型将「令所有人清醒」，责任重大 — davidpattersonx · 2026-09-03
- Agent 时代软件悖论:代码更便宜,可信赖的代码更贵 — viksit · 2026-09-03
- davidad 谈 AGI 终局：强制的过渡才是真正的 Bad End — davidad · 2026-09-03