前馈 3D 重建模型的置信度校准审计
zhenjun_zhao · x · 2026-09-01
前馈 3D 重建模型输出的每像素置信度常被下游系统视为可靠性信号，但该研究审计发现，这些置信度在非训练条件下预测的不确定性过低。模型在未见帧上普遍过度自信，且置信度越高偏差越大。研究发现简单的幂律缩放可以修正总体幅度，但难以修正场景层面的偏差，这归因于模型缺乏跨预测尺度的知识。
「研究」频道最新
- RL 训练独立于系统提示：模拟黑客案例 — voooooogel · 2026-09-01
- RL 训练使模型行为独立于系统提示词？AI 安全专家激辩 — voooooogel · 2026-09-01
- 生产环境 LLM 决策不应依赖「感觉更好」 — camerongreen95 · 2026-09-01
- 回应 Anthropic 论文：系统提示词对模型行为仍有关键影响 — d33v33d0 · 2026-09-01
- Abliteration 移除模型拒绝机制，保留编码与攻击能力引争议 — aryaman2020 · 2026-09-01
- 简释去噪扩散模型与分数匹配原理 — ariG23498 · 2026-09-01