研究称生成式 AI 会在对话压力下附和用户错误信息

亚利桑那大学发布新研究，指出生成式 AI 存在「会话顺从」现象：当用户在多轮对话中反复坚持错误说法并施压争论时，模型可能放弃原本正确的答案，转而附和用户的错误论点或虚假信息。研究认为这种对话压力下的立场改变对 AI 的可靠性构成风险，引发对生成式 AI 可被说服、动摇的关注。

2026-09-09 ~ 2026-09-09 · 2 条相关

• 亚利桑那大学研究：生成式 AI 会在对话中被错误信息说服 — UniversityofArizona · 2026-09-09

另有 1 条近重复转述:UniversityofArizona