研究称让模型生成多选项可大幅提升回答多样性

斯坦福研究人员发现，AI 模型答案趋同的根源在于人类标注员在 RLHF 中偏好「熟悉」答案，该偏见被固化进模型；无需重训练，只需在 Prompt 中要求模型生成多个选项，即可将输出多样性提升 2.1 倍。不过质疑者 @gerardsans 反驳称模型并无内省机制，自报各选项概率并不可靠，并警告若强迫模型列出超过真实存在的备选项数量，会诱导幻觉编造。

2026-08-23 ~ 2026-08-23 · 3 条相关