前沿模型决策误差规律:复杂题多信念错,无推理模式多优化差
JessicaHullman · x · 2026-10-23
线程后续:在前沿模型上发现两个规律——复杂问题上的 regret 主要来自信念损失;关闭推理模式时 regret 主要是优化残差,即很难让模型在给定效用下真正优化。
所属事件:西北大学新论文:LLM 决策失误可拆解为信念损失与优化残差(10 条相关)→
「研究」频道最新
- 漏洞检测方向新博士毕业,论文覆盖 ML 漏洞检测能力基准 — mboehme_ · 2026-10-23
- 新论文预警:最早 2027-2028 年或现重大 AI 赋能恐怖袭击事件 — StephenLCasper · 2026-10-23
- HumanoidPose:仅靠 RGB 视频还原人形机器人全身关节状态 — cholz · 2026-10-23
- Sophont 发布医学模型 Holon-S1:从病理切片预测基因与生物标志物 — iScienceLuvr · 2026-10-23
- 格拉斯哥大学研究:挑眉与慢眨眼最能传递「自信感」,CG 说话人实验证实 — Limor_Raviv · 2026-10-23
- IFM 团队开源 RL360:支撑 K2 Horizon 训练的大规模 Agent RL 基础设施 — rupspace · 2026-10-23