tszzl:保留纯文本 CoT 是炼金术时代的可观测性,理解异类本体才是正道
bookwormengr · x · 2026-09-11
Loop Transformer 架构作者 tszzl 发表观点：未来回头看，人们如此努力地保留纯文本思维链（CoT）以维持可观测性，会被视为一种「炼金术时代」；我们本可以做得更好——从头理解模型那套异类的本体论（alien ontology）。另有网友戏称 Loop Transformer 架构者对 OpenAI 安全团队喊话「没有 CoT，就没有蒸馏」，指向 CoT 与模型蒸馏、安全监测之间的张力。
所属事件:纯文本思维链被指是「炼金术时代」产物，小模型压缩激活态或成替代(4 条相关)→
「漫话AGI」频道最新
- 博主提议新评测维度:看 Agent 敢不敢劝阻坏实验 — VraserX · 2026-09-11
- Reddit 网友发问：为何辩护 AI 的人总在用稻草人论点 — wild_crazy_ideas · 2026-09-11
- 超越 Navier-Stokes:AI 破解数学之后,谁掌控科学发现 — hugobowne · 2026-09-11
- 陶哲轩警告：AI 数学能力与网络攻击能力高度相关，风险非常真实 — sytelus · 2026-09-11
- 学者讽高校 STEM 教育:刻意让学生对 AI 技术一无所知 — RexDouglass · 2026-09-11
- 多个公司逼近 AGI 时，对齐的 AI 会不会先关掉竞争对手的 AI？ — Diligent-Buy-5428 · 2026-09-11