Chain Lens 组合近乎开箱即用,对比解码对通用隐藏状态提升最明显
voooooogel · x · 2026-11-12
voooooogel 介绍 chain lens 的组合调优:J-lens 传输与 MTP 头采样几乎开箱即用地结合,团队稍作调整以获得更好结果,其中针对通用隐藏状态做对比解码(contrastive decoding)帮助最大,作者认为这里还有改进空间。
所属事件:Chain Lens：免训练从模型激活读出多 token 概念(6 条相关)→
「研究」频道最新
- Intology 创始人在 YC 论文俱乐部：药物临床失败主因是选错靶点 — yusufroohani · 2026-11-12
- DeepMind 提出 FlipTest 基准:视频世界模型全部不及格,最好模型低于随机猜 — AlexGDimakis · 2026-11-12
- AI 模型用巴西调查数据预测龋齿高危人群，服务公卫规划 — Brighter-Side-News · 2026-11-12
- Meta FAIR 开源 e-means：比 Lloyd 算法快 10 倍、损失更低的 k-means — generativist · 2026-11-12
- Google 联合 Artificial Analysis 推 MKA benchmark，专查智能体交付物 — OnlineInference · 2026-11-12
- ICLR 审稿「数学平凡」批评失效？AI 能证明一切改变评审标准 — nanjiang_cs · 2026-11-12