TheZvi:监控限制 CoT 内容,不代表 CoT 对模型无用
TheZvi · x · 2026-09-05
TheZvi 指出一段流行的对齐论述在第二段有重要错误:监控机制强迫模型不在思维链里写某些信息,并不能让 CoT 对模型失去用处——模型仍可以把 CoT 用于常规用途,只是不对「未对齐部分」做显式推理。他强调人类经常这样做,批评该论证忽略了这一显而易见的可能性。
所属事件:TheZvi 警告：思维链正变得更难监控(2 条相关)→
「漫话AGI」频道最新
- Daniel Lemire：AI 量产论文正在戳穿学术界的「教授庞氏骗局」 — lemire · 2026-10-21
- 学者吐槽:大学封杀爬虫下载论文,终身阅读量不足答辩委员会人数 — generativist · 2026-10-21
- 伯克利获 Schmidt Sciences 资助：用 AI 破解抹香鲸与虎鲸语言 — begusgasper · 2026-10-21
- 3Blue1Brown:即使 LLM 能做清晰讲解,我也会继续做视频 — 3blue1brown · 2026-10-21
- Talos 安全研究员:AI agent 攻击尚是吵闹渗透,蜂群静默红队才是真风险 — matthew_d_green · 2026-10-21
- 3blue1brown 回应争议：AI 产业对数学人才胃口「近乎贪得无厌」 — 3blue1brown · 2026-10-21