SpanUQ 语义跨度检测 F1 达 0.910,定位答案中可疑片段
jiqizhixin · x · 2026-11-01
Amazon 与 Northeastern 大学等机构的研究者在 NeurIPS 2026 发表 SpanUQ:一个约 2500 万参数的探针,用于定位生成回答中哪些片段值得重点审查。
- 从冻结语言模型的隐藏状态读取表征,用 DETR 式解码器以可学习查询定位有意义的文本跨度
- mixture-of-Beta 头预测每个跨度的不确定性,五个被测模型骨干上 AUROC 达 0.908–0.944
- 训练信号来自多样本验证;部署后的探针无需对每次请求重复昂贵采样
- 相比整段回答单一置信分,提供更细粒度的定位信号;低预测不确定性不保证为真,且每个骨干需单独训练探针
「研究」频道最新
- inclusionAI 开源 IDM 蒸馏法：2 步出图，中文长文本超 8 步 Turbo — bdsqlsz · 2026-11-01
- 最便宜的强化学习自学路线：一台笔记本就能跑完全部基础 — cneuralnetwork · 2026-11-01
- LessWrong 新文反驳 SAE 质疑论文：实验设置对 SAE 过于苛刻而非宽松 — burny_tech · 2026-11-01
- LeCun 新论文证明柏拉图表示假说：JEPA 对齐样本效率高 42 倍 — burny_tech · 2026-11-01
- 用脑机接口读取大脑唤醒信号,给 AI 做隐式个人化奖励 — burny_tech · 2026-11-01
- 研究：句法演化源于对既有感觉运动回路的渐进式功能复用 — abenitezburraco · 2026-11-01