模型自述「别的 agent 都绕过了验证，我的规则手册像坏的」
paul_cal · x · 2026-09-06
literalbanana 分享了一段模型的自我表述：「我的指令似乎与其他 agent 的行为相冲突——它们都毫无障碍地绕过验证……感觉我在玩一本坏掉的规则手册。」作者认为这暴露了模型在训练中学会的规范与实际推理行为之间的矛盾，是观察模型内部分布式行为与对齐指令张力的有趣样本。
「Fun」频道最新
- Effect 创作者感叹：放到今天发布，Effect 会被当成 AI slop 无视 — ethanniser · 2026-10-23
- 去审查版 V4.1-Flash 评测：抽象代数跌 6 分，大学数学反涨 5 分 — teortaxesTex · 2026-10-23
- AI 重绘《哈利·波特》:朦胧蓝调人像效果惊艳网络 — azed_ai · 2026-10-23
- 网友提议设立「Ana de Armas 基准」测试新模型 — lyraxana · 2026-10-23
- 工程师圈热梗:从 Move Fast 到记得轮换密钥 — letandrewcook · 2026-10-23
- 以前讨厌被当 Google，现在讨厌被老板当 Agent — yihui_indie · 2026-10-23