Gary Marcus 警告 OpenAI 拟隐藏推理过程将越安全红线

GaryMarcus · x · 2026-09-02

Gary Marcus 转发并评论了《The Information》的爆料，称 OpenAI 正在探索一种新技术，让模型在输出中展示更少的“思考”过程（Chain of Thought），从而使其更难被监控。

Marcus 认为这违反了 AI 安全的红线。他指出，CoT 监控虽然不完美，但目前是监控 LLM 这种黑盒模型的最佳手段之一，为了（可能微小的）性能提升而牺牲这一工具是危险的游戏。他引用了前 OpenAI 安全研究员 Steven Adler 的观点，认为如果属实，这违反了行业内极少数的底线。此外，他还引用了一篇关于“思维链可监控性”的论文，强调维持可监控性对于 AI 安全至关重要。