观点:CoT 只是代理,模型能经 KV 缓存传递更复杂信息
stochasticchasm · x · 2026-09-04
作者认为，即使思维链看起来像模型内部过程的可靠代理，也可能产生误导：模型可以通过 KV 缓存传递比 token 空间中复杂得多的信息，因此仅凭可读的 CoT 无法完整推断模型内部发生了什么。
所属事件:循环层架构疑云：CoT 可监控性引发安全圈激辩(7 条相关)→
「研究」频道最新
- seqlet caller 升级后续：DeepLIFT 相关贡献者获致谢 — jmschreiber91 · 2026-10-21
- Center for AI Safety 发布《机器学习安全导论》课程大纲 — ArtificialOther · 2026-10-21
- seqlet 调用器提速 22 倍：16.7 万 loci 从 7.8 秒降到 0.35 秒 — jmschreiber91 · 2026-10-21
- X 热榜三条 AI 速览：Holon-S1 预测癌片基因活性、decision models 走红 — iScienceLuvr · 2026-10-21
- NEJM AI 研究:同一病例 LLM 开单费用最高达医生建议的 10 倍以上 — dvir_a · 2026-10-21
- Nature Genetics：核苷酸依赖性分析从基因组语言模型中挖出功能元件 — jmschreiber91 · 2026-10-21