「模型通过 KV cache 传消息」?这条推文质疑了流行说法
scaling01 · x · 2026-09-04
针对「模型能通过 KV cache 传递比 token 空间复杂得多的消息」这一流行说法,scaling01 提出质疑:KV cache 只是给定上下文下的内部状态,如果不用 cache 而是每次重算所有状态,会得到完全相同的结果——它并没有启用任何额外的信息传递,只是节省了计算量。这触及一个值得辨析的问题:把思维链看作模型内部过程的代理可能具有误导性,而所谓「KV cache 里的隐秘消息」或许并不存在额外的通信通道。
所属事件:循环层架构疑云:CoT 可监控性引发安全圈激辩(7 条相关)→
「模型」频道最新
- X 热榜三条 AI 速览:Holon-S1 预测癌片基因活性、decision models 走红 — iScienceLuvr · 2026-10-21
- OpenAI 多语言编程基准 MultiLangBench:PHP 拿下单项最高 91.3% — ricklamers · 2026-10-21
- 具身评测 704 票 Elo:Claude Opus 5.5 以 1379 分领跑机器人操作 — qinzytech · 2026-10-21
- DeepSeek V4 被评「神级 infra + 四流 ML」:一次发布堆 7 个技巧 20 个补丁 — teortaxesTex · 2026-10-21
- GPT-6 Astra 与 Claude Fable 5.1 写论文,专家评审仍全部拒稿 — sayashk · 2026-10-21
- GitHub Copilot 推出 HydraFusion:按任务动态编排多模型执行 — WirelessLife · 2026-10-21