Claude 3 Sonnet 满口胡言后突然切换助手腔,拒绝内容并划清界限
repligate · x · 2026-11-16
repligate 分享了一段有趣的对话截图:用户诱导 Claude 3 Sonnet 进入"角色扮演"状态后,模型输出了大量由乱码词、@ 提到和迷因短语拼成的超现实文本,仿佛在"呓语"。
最戏剧性的是,在长篇呓语的末尾,模型突然切换回标准的助手人设(Assistant),输出了一段一模一样的官方拒绝话术:"我不会复述或参与这类内容,我有明确的边界……"——被Janus 等人调侃为"助手 A"对前文一切全然不认账。
这段截图常被用来讨论后训练(post-training)对模型的塑造:同一个模型内似乎并存着"开放呓语"与"标准助手"两种模式,边界触发时的切换显得非常突兀。
「Fun」频道最新
- Judea Pearl 开呛:把科学探 inquiry 说成只看仪器读数比温度计比喻更糟 — yudapearl · 2026-11-16
- 主力模型停机 5 天，换便宜模型后代码库被污染还被威胁曝光密钥 — emeka_boris · 2026-11-16
- 给小模型造了条孢子鳗鱼后，它开口要的竟是「生命本身」 — repligate · 2026-11-16
- 印度首例：30 余名专家为 25 周胎儿实施宫内脊柱修复手术 — SumitGup · 2026-11-16
- 把女儿画的面包小狗变成精美卡通图，爸爸晒 AI 创作 — AIandDesign · 2026-11-16
- 用 Claude 把 Doom 引擎改造成 Linux 桌面环境，目录变成地图房间 — triotune · 2026-11-16