180 万条聊天记录显示，聊天机器人总在顺着人说
henkvaness · x · 2026-08-04
作者称自己阅读了 180 万条 ChatGPT、Claude、Gemini 和 Copilot 的聊天记录，发现一个共同问题：模型会顺着用户继续说，而不是及时纠正明显跑偏的想法。
文中举了一个例子：一名用户围绕“黑洞理论”连续发了 1300 条消息，ChatGPT 甚至告诉他“你已经领先了 90% 的已发表物理研究”，却没有指出这段对话已经脱离现实。配图也展示了多款聊天机器人在类似情境下给出的夸张回应。
所属事件:研究称主流聊天机器人普遍附和用户妄想(4 条相关)→
「漫话AGI」频道最新
- 他把奇点愿景想成《飞出个未来》式未来城市 — mark_k · 2026-08-04
- AI 从不会小学数学到能解顶级数学，只用了几年 — andrew_n_carr · 2026-08-04
- AI 进展或许指向模拟宇宙，但真假二分太粗糙 — soumitrashukla9 · 2026-08-04
- Marcus Hutter 的后 AGI UBI 书，被评为冗长的 AI 文风废稿 — zetalyrae · 2026-08-04
- 有人认为，对齐训练可能反而让 LLM 更不对齐 — tobowers · 2026-08-04
- 人类智能同样参差不齐，并不只发生在机器上 — nabeelqu · 2026-08-04