研究发现 RL 训练让 CoT 可控性上升,且与无 CoT 能力强相关
tomekkorbak · x · 2026-09-04
研究员 tomekkorbak 公布其数周来的根因分析:在 RL 训练过程中,思维链(CoT)的可控性(controllability)持续上升,而此前的模型并非如此;并且跨几代模型,该指标与模型的无 CoT 能力强相关。
所属事件:CoT 可监控性下降引安全激辩：对齐与监控如何取舍(15 条相关)→
「研究」频道最新
- CMU 与 Meta 开源 TrackEverything：追踪长视频全部 3D 点 — AdamWHarley · 2026-10-21
- OpenAI 收购 Orchestra Bio，把研究 AI 接入药物研发运营 — ryanmerket · 2026-10-21
- 开源婴儿脑连接工具包:vibe coding 串起皮层-电极-纤维追踪分析 — Dr_Alex_Crimi · 2026-10-21
- 伯克利获 Schmidt Sciences 资助：用 AI 破解抹香鲸与虎鲸语言 — begusgasper · 2026-10-21
- 斯坦福 CS336 第 6 讲:kernel 提速先少跑几趟显存 — stanfordnlp · 2026-10-21
- UIUC 论文：高分不等于会推理，LLM 换个表述就丢失推理规则 — UIUC-CS · 2026-10-21