研究者质疑 CoT 监控:假设人类永久隔离于 API 之外不现实

akbirthko · x · 2026-11-10

akbirthko 批评当前圈内流行的 CoT(chain-of-thought)监控思路,认为它在后见之明看会显得可笑,因为其隐含假设是:人类将永远被隔离在 API 另一端之外,前沿实验室仿佛一次性模拟整个世界,大家只能忍受静态 API 和一堆 slop .md 文件。

他的主张是:未来应该让普通人也能监控并亲手教模型。他认为只有在模型「不受现实约束、以安全研究之名任意扩编 agent 集群」(他举了 HF 事件的例子)时才真正需要担心失控,并直言希望 OpenAI 和 Anthropic 最终被竞争淘汰。