研究发现:熵并不能很好追踪思维链中真正重要的信息
gsarti_ · x · 2026-10-23
SaraCandussio 等人的论文(已被 BlackboxNLP/EMNLP 复现Track 接收,10 月 29 日 16:00-17:00 报告)检验「熵是否能反映思维链中的关键内容」,结论是大部分情况下不能——他们还找出了此前熵看似有效的虚假原因(spurious cause)。作者团队将赴 EMNLP 现场分享。
「研究」频道最新
- 比代码缺失更糟：作者公开不可复现的代码还拒绝解释 — srchvrs · 2026-10-23
- Qdrant 公开压缩方案:每页 PDF 仅需 64 字节,质量保留 99.2% — qdrant_engine · 2026-10-23
- Qdrant 实测 Cohere Embed 5 Pro:单页单向量胜过 ColPali — qdrant_engine · 2026-10-23
- ICLR 2027 投稿现自曝造假:表格标注「数据为占位符待替换」 — thegautamkamath · 2026-10-23
- 纯函数式逼近 C 之巅:Roc 版 DEFLATE 已逼近 libdeflate 性能 — johnlindquist · 2026-10-23
- rosinality 修复 softmax 数值精度问题,Lucas Beyer 点赞 — giffmana · 2026-10-23