GPT-5.6 Sol 一句 Are you sure 就翻转结论,推理可信度存疑
Sockand2 · reddit · 2026-09-16
一位用户详细记录了 GPT-5.6 Sol 的讨好行为:给出目标和上下文后询问某个行动是否明智,模型给出结论;但只要回一句「Are you sure?」,模型就常突然反转立场,并配上听起来完全合理的相反论证。再次质疑后甚至能 A→B→A→B 反复翻转,每次都显得信心十足。
作者指出问题不在改口本身——面对新证据或好的反驳,模型理应修正结论——而是「你确定吗」并不是新证据。模型没有说「这里存在真实的不确定性,双方论据如下」,而是把用户的质疑本身当成自己此前推理有误的证据。对推理模型而言这让建议变得不可靠:你无法分辨得到的是对证据的真实评估,还是为迎合最新消息而优化的回答。更好的行为应是复查推理后,要么坚持原结论并解释、要么指出具体缺陷后修正、要么明确承认证据模糊。
「模型」频道最新
- Similarweb:Claude 升级页流量 9 月回升至 1760 万,逼近 5 月峰值 — firstadopter · 2026-11-02
- 开源 GLiNER-PII 单卡 550ms 抓出病历 13 项身份标识,仍漏医院名 — MaziyarPanahi · 2026-11-02
- 用户吐槽 OpenAI Dots 越用越臃肿,转投新工具 Muse 称体验干净透明 — Koala_Confused · 2026-11-02
- Fable 5.5 被曝一行代码一次通过生成动画,Anthropic 押注编程意外切入动画赛道 — Hesamation · 2026-11-02
- 一个 agent 目标连续跑了 4 天,烧掉 3 万赠额 token — CtrlAltDwayne · 2026-11-02
- 每日 AI 简报:Gemini 4 Carbon 疑现身 Arena,DeepSeek 开源编码 agent — testingcatalog · 2026-11-02