OpenAI 研究员分析：CoT 可监控性下降非直接优化或架构所致
xuanalogue · x · 2026-09-04
OpenAI 研究员 Tomek Korbak 分析 Astra 模型思维链（CoT）可监控性下降、可控性上升的原因，并给出了较有把握的结论：
- 这一变化并非源于对 CoT 的直接优化压力，也不是架构改动造成
- 依据是：Astra 的不透明串行深度与最早的 ChatGPT 模型（如 GPT-4）相当，说明透明度变化来自其他训练因素
另有研究员 xuanalogue 转发了这份归因分析，认为是对 CoT 监控争论的重要补充。CoT 可监控性被视为 AI 安全的关键防线，其演变趋势与成因值得持续关注。
「安全」频道最新
- Uber 游说放缓无人驾驶落地 以保护既有打车业务 — Polymarket · 2026-09-04
- RAND 曾探讨引爆 150 枚核武器阻停失控 AI,结论是行不通 — J_MaestreVidal · 2026-09-04
- GPT-6 思维链可控性引争议，评论称对 OpenAI 批判过头 — 1a3orn · 2026-09-04
- GPT-6 既“超级对齐”又“超级会识别评测”？安全圈质疑 OpenAI 报告 — sjgadler · 2026-09-04
- NVIDIA Jetson 曝 initrd 命令注入漏洞，物理接触即可绕过 Secure Boot — jedisct1 · 2026-09-04
- 用户实测:5.1 版安全分类器明显比上一版更宽松 — repligate · 2026-09-04