U-Space：单次前向、免训练的 LLM 不确定性估计新方法
AdRevolutionary3242 · reddit · 2026-10-12
研究者发布 U-Space/U-Lens，一种无需标签、无需微调、单次前向即可估计大模型答案不确定性的方法。核心公式：隐藏状态在 4 个「怀疑方向」上的投影强度 × 推理 token 的平均熵。
关键特性
- 免标签、免训练：不需要正确性标注或微调
- 单次前向，无需多次采样或 judge 模型
- 可解释：能区分歧义、信息缺失、证据冲突、一般性不确定四类
- 在 Gemma 4、Qwen3.5、Magistral 三个模型、4 个 benchmark 的 3-seed 评测中超过 5-pass、10-pass 与有监督基线
落地方式：唯一模型相关组件是 Jacobian lens（来自 Anthropic global workspace 论文的 J-Lens），Hugging Face 已有 40+ 预拟合 lens（Gemma、Qwen、Llama、gpt-oss-20b 等）；没有的模型可用 Anthropic 参考代码约 100 条无标注提示词拟合，成本主要在反向传播。仓库提供端到端 smoke 测试脚本。
作者期待的应用：低置信度路由到更大模型或人工、缺失信息触发检索、歧义时反问澄清、RAG 管线中标记冲突证据。
「研究」频道最新
- 伯克利研究：10 分钟 ChatGPT 就会削弱独立思考耐力 — RachelVT42 · 2026-10-13
- Radiolab 推出「Math Vs Machine」：数学家直面 AI 冲击波 — stevenstrogatz · 2026-10-13
- 人脑微蛋白图谱上线 Hugging Face:收录超 1000 种微蛋白 — huggingface · 2026-10-13
- 循环 Transformer 多跳推理卡在 8%,DiscoLoop 免重训提到近 100% — jasondeanlee · 2026-10-13
- 微软StudentSim：用AI模拟学生给AI家教练手 — Microsoft Research · 2026-10-13
- AI 代码需要规格说明:形式化验证如何让 Agent 更安全 — The Cognitive Revolution · 2026-10-12