研究者激辩:给CoT加不透明递归会让可监控性问题急剧恶化

panickssery · x · 2026-09-19

一场关于思维链(CoT)可监控性的争论:@panickssery 质疑,模型变大本身就会让 CoT 越来越难解释,优化后的思维链已经被模型以怪异、不可解释的方式使用,那加上不透明递归又能差多少?

@eccentric1ty 回应称,自己并未声称 CoT 能永远保持可监控,但这不能成为借口——用不透明递归让可监控性问题「急剧恶化」是没有道理的。前者进一步指出,原推的表述强烈暗示 CoT 可监控性是可以长期维持的。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →