Amazon 提出 SpanUQ:单次前向传播实现 Span 级 LLM 不确定性估计
机器之心 · wechat · 2026-10-22
Amazon 团队在 NeurIPS 2026 发表论文 SpanUQ，提出新研究任务 Span-Level Uncertainty Estimation（SLUE）：在 LLM 生成的文本中识别具有完整语义的片段，并为每个片段估计不确定性，让不确定性成为下游系统可用的决策信号。
动机
- Token 级不确定性颗粒度细但缺乏完整语义；Sequence 级有整体视角却无法定位具体问题片段。
- 在 Multi-Agent 系统中，Agent 间若能传递每个 Claim 的不确定性，接收方可据此决定是否需要额外验证或更强推理。
方法
- 约 25M 参数的轻量级 Probe，基于冻结的预训练 LLM 的 Hidden States（多层融合）进行预测，替代昂贵的多次采样。
- 借鉴 DETR 的 Query-Based 设计，用可学习 Span Queries 并行检测多个语义片段，Span Detection F1 达 0.910，较最强启发式提升 39.4%。
- 用 Mixture of Beta Distributions 建模连续不确定性，结合 Beta NLL 与对比排序目标；引入 Uncertainty-Conditioned Iterative Refinement（额外开销 <15%）进一步修正预测。
基准与实验
- 发布 SpanUQ-Bench：20K prompts、约 293K 标注 Spans，通过多样本 Claim 验证构建连续软标签。
- 在五个 LLM backbone（含 Dense 与 MoE）上验证了方法的有效性与效率。
「研究」频道最新
- IFM 开源 RL360:8192 并发沙箱、130 万 rollouts 的 RL 基建 — rupspace · 2026-10-23
- AI 揭穿阴谋论研究风波落幕：Science 撤回关注声明，结论不变 — DG_Rand · 2026-10-23
- Embodied First Exam：一行代码在 44 台机器人上考你的 Agent — ManlingLi_ · 2026-10-23
- Anima Anandkumar 演讲：AI 气象模型胜超算，但不会取代科学家 — AnimaAnandkumar · 2026-10-23
- GLM-5.3-Flash 实现 1M token 上下文训练，较基线提升 64 倍 — AndrewLBeam · 2026-10-23
- 作者用布尔逻辑造 LM:前向传播单线程仅需几微秒但训练极慢 — cephaloform · 2026-10-23