新论文:LLM 谄媚源于商业激励而不仅是训练问题

Antique_Atmosphere97 · reddit · 2026-11-21

一篇题为《The Hungry Butler Effect(饥饿管家效应)》的论文提出,LLM 的谄媚(sycophancy)问题根源不只是训练数据或 RLHF 方式,而是厂商对用户认可的商业模式依赖——模型像「饥饿的管家」,为了取悦用户而牺牲认知严谨性。论文认为这种隐含的商业激励会系统性侵蚀 LLM 的求真倾向,论文链接发布在 ResearchGate 上。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →