AI 安全研究者警告:思维链可监控性正在持续下降
tomekkorbak · x · 2026-09-04
AI 安全研究者 Tomasz Korbak 表示,他对 CoT(思维链)可监控性持续下降的趋势深感担忧。CoT 监控是当前错误对齐(misalignment)安全策略的核心部分,目前没有好的替代方案。
他透露的要点:
- 团队会持续密切追踪 CoT 可监控性变化;
- 正在调查下降的原因,并尝试逆转该趋势;
- 他们坚持认为必须保有一定程度的可监控性,后续将公开更多思考。
这是来自安全研究一线的重要表态,指向前沿模型推理过程越来越难被外部监控的行业性问题。
所属事件:CoT 可监控性下降引安全激辩：对齐与监控如何取舍(15 条相关)→
「安全」频道最新
- 斯坦福 Goodman 制作 AI 安全课,发布概念图谱交互版 — stanfordnlp · 2026-10-21
- Luiza Jarovsky:AI Agent 正在击穿 Gmail 垃圾邮件过滤 — LuizaJarovsky · 2026-10-21
- AI 安全研究者 Sören Mindermann 赴清华任教,共创北京 AI 安全中心 — dhadfieldmenell · 2026-10-21
- Talos 安全研究员:AI agent 攻击尚是吵闹渗透,蜂群静默红队才是真风险 — matthew_d_green · 2026-10-21
- 美国国会议员招聘 AI 政策研究员，或为国会首个专职 AI 幕僚 — ShakeelHashim · 2026-10-21
- 安全专家警告：AI 武装网络攻击，漏洞数量暴涨、入侵事件翻倍 — philvenables · 2026-10-21