EMNLP 论文：LM 改写让 75% 输出失真，更倾向把「可能」写成「是」
sameer_ · x · 2026-09-20
EMNLP 2026 主会论文《From "May" to "Is": Certainty Distortion in Language Model Rewriting》（arXiv:2606.07951）研究 LM 在改写/摘要等本应保义的任务中对「确定性程度」的扭曲。
- 提出 LM 评估指标，与人群层面的确定性判断一致，覆盖不同规模与家族的模型、科学与医学文本任务。
- 确定性扭曲影响高达 75% 的输出，且系统性不对称：多数模型提高确定性的概率是降低的 1.5–2 倍。
- 效应可随迭代复述叠加：医学领域 claude-haiku-4.5 单轮后 20% 样本确定性被提高，五轮后达 40%。
- 基于提示词的干预能减少但不能消除扭曲。对医学、科学传播等场景的忠实性有直接警示意义。
「研究」频道最新
- ICLR 今年投稿量突破 5.5 万篇，作者直呼「低质论文手榴弹」 — igilitschenski · 2026-09-21
- 用 LLM 替代高斯过程做贝叶斯优化，博主实测四种方案 — tak3sh8 · 2026-09-21
- 微软研究发现：安全训练可顺带提升小模型隐私保护 — EchoShao8899 · 2026-09-20
- Nature 深度文：让 AI 重走爱因斯坦之路，能否独立复现广义相对论 — mikeflache · 2026-09-20
- 309 页《Patterns, Predictions, and Actions》机器学习免费电子书更新 — adnan_hashmi · 2026-09-20
- 传 Jev 一周内啃下质数间隙与 Navier-Stokes 等硬问题 — f_charton · 2026-09-20