Redwood 研究员:执着保留纯文本思维链将是可观测性的炼金术时代
RyanGreenblatt · x · 2026-09-11
Redwood Research 的 Ryan Greenblatt 参与了一场关于思维链(CoT)可观测性的讨论。有人认为,未来回顾这个竭力保留纯文本思维链的时代,会觉得像"炼金术式的可观测性"阶段——我们本可以从头理解模型异质的本体论,做到远比现在更好。
Greenblatt 回应发问:"但我们真的会吗?",表达了对业界是否真能超越文本 CoT 可观测性的怀疑。这场讨论触及当前 CoT 监控与可解释性路线之争的核心:文本思维链或许只是过渡手段,深度理解模型内部表征才是正途。
所属事件:tszzl：保留纯文本 CoT 是可观测性的「炼金术时代」(6 条相关)→
「漫话AGI」频道最新
- 约20% ICLR 评审疑似 AI 生成，Heng Li 反对、专家称 AI 评审或优于人类 — anshulkundaje · 2026-10-28
- Noah Smith:AI 是人类时代倒数第二重要的技术进步,之后还有一个 — abhiadesai · 2026-10-28
- 当任务只能在真实世界验证：RL 的终局形态与 RLHF 轶事 — yacineMTB · 2026-10-28
- Susan Zhang 嘲讽「人多加班就能赢 AI」论：未来不靠人力堆砌 — suchenzang · 2026-10-28
- KOL 预测：2035 年细胞重置将像洗牙一样日常 — rand_longevity · 2026-10-28
- Andrew Chen：我打出的字已有约 25% 发给 AI 而非人类 — andrewchen · 2026-10-28