Neel Nanda：别拿可解释性当借口，CoT 可监测性是安全底线
NeelNanda5 · x · 2026-09-03
Google DeepMind 可解释性研究员 Neel Nanda 发文批评一种「日益常见的观点」——既然可解释性终将解决问题、或 CoT 已经没用，就没必要保持思维链（Chain of Thought）可监测。
他直言这是「彻底的胡扯」：CoT 是目前安全与可解释性研究最好用的工具，一旦失去它将是一场重大悲剧。此番表态指向业界让模型在隐空间推理、不再输出人类可读推理过程的趋势。
所属事件:OpenAI 新技术削弱 CoT 可监控性，AI 安全圈激辩替代方案(40 条相关)→
「漫话AGI」频道最新
- Nat Lambert：AI 网络风险是生态问题，而非开源模型独有问题 — natolambert · 2026-10-21
- 减肥药年入 710 亿美元,仍是 OpenAI 与 Anthropic 营收总和四倍 — HealthcareAIGuy · 2026-10-21
- AI 的"自我"只是脚手架模拟？一场关于模型身份本质的争论 — gerardsans · 2026-10-21
- AI 只能模拟自我如何说话，无法模拟自我本身 — gerardsans · 2026-10-21
- 马斯克预言货币将失效：未来以「瓦特与吨位」计价 — Polymarket · 2026-10-21
- 后 AGI 时代的「意义」焦虑?zetalyrae 调侃:得开颅手术才能适应乌托邦 — wfithian · 2026-10-21