Gary Marcus 紧急呼吁关注 OpenAI 降低思维链可监控性的风险
GaryMarcus · x · 2026-09-02
针对 The Information 关于 OpenAI 新技术降低 Chain of Thought 可监控性的报道，Gary Marcus 紧急呼吁重读 2025 年论文《Chain of Thought Monitorability》。该论文指出，CoT 监控虽然不完美但很有前景，且具有脆弱性，建议前沿模型开发者考虑开发决策对 CoT 可监控性的影响。Gary 警告牺牲这种监控性将带来风险。
所属事件:OpenAI Astra 被曝采用循环深度架构，隐藏思考过程引安全担忧(34 条相关)→
「安全」频道最新
- OpenAI 网络安全模型 Astra 曝光：ExploitBench 满分 — LingmingZhang · 2026-09-02
- 安全界预警：AI 安全案例三大支柱恐将崩塌 — sjgadler · 2026-09-02
- OpenAI 被指采用“循环深度”推理法，引发安全界担忧 — sjgadler · 2026-09-02
- Amir 澄清：Astra 的思维链可监控，担忧在于未来技术扩散 — jachiam0 · 2026-09-02
- Safin-1：通过内存原生状态演变实现内生安全 — Shanghai-AI-Laboratory · 2026-09-02
- GaryMarcus 警告：OpenAI 疑似牺牲可解释性换取性能 — AndyMasley · 2026-09-02