前沿模型仍会贪心和频率偏置
m_wulfmeier · x · 2026-07-21
作者指出，前沿模型里仍然存在两类决策偏差：
- greediness：模型会塌缩到先验概率最高的答案；
- frequency bias：上下文里更显眼、出现更频繁的内容，会压过真实证据。
他补充说，长期来看一些训练方案可以缓解这类问题，例如在自生成推理链上做 RL 微调；他们在 greedy agents 论文里已经展示过这种效果。
所属事件:研究揭示前沿模型与视觉模型仍存在决策偏差(3 条相关)→
「研究」频道最新
- 1GW 中国 AI 数据中心为何并非不可能 — teortaxesTex · 2026-07-22
- 中国 AI 实验室把蒸馏混淆当成头号研究主题 — pmddomingos · 2026-07-22
- RSS 加入 OMSF，推进结构生物学大规模数据建模 — MoAlQuraishi · 2026-07-22
- enFoldX 用 AlphaFold3 结构噪声预测 TCR 识别 — quaidmorris · 2026-07-22
- enFoldX 在 8 个 neoantigen 数据集上拿到领先结果 — quaidmorris · 2026-07-22
- enFoldX 在 human VDJdb 上达 AUC 0.82 并可迁移到 mouse — quaidmorris · 2026-07-22