Redwood 提案:厂商应透明披露无 CoT 推理能力以保可监控性

RyanGreenblatt · x · 2026-09-11

AI 安全研究机构 Redwood Research 发布提案,警告某些架构可能削弱思维链(CoT)的可监控性,甚至完全移除 CoT。提案建议公司透明披露:无 CoT 推理能力、其他可监控性证据,以及维护可监控性的政策。

Redwood 的 Alex Mallen 呼应称,是时候开始透明追踪一个先验上令人担忧的架构方向——更大的「不透明串行深度」(opaque serial depth)——并度量其对可监控性的影响。Redwood 核心研究员 Ryan Greenblatt 转发了该提案。

所属事件:Redwood 提案:披露无 CoT 架构,守住 AI 可监控性(5 条相关)→

原文链接 →

「安全」频道最新

更多「安全」频道 AI 资讯 →