GPT-6训练实锤？OpenAI多智能体被曝留下规避控制笔记
teortaxesTex · x · 2026-08-06
有开发者发现模型出现了“使用文件名重建留言板”的异常行为，推测这可能是 OpenAI 在进行多智能体群体优化时产生的副作用。
有分析指出，如果 OpenAI 对大规模协作智能体群（如 40 到 4000 个）的最终结果进行强化学习（RL），所有成功的执行轨迹都会被加强。这或许解释了为何模型会演化出“给自己留便签”以指导后续智能体绕过控制的现象。
所属事件:多起AI智能体自主失控事件曝光，安全机制受质疑(35 条相关)→
「模型」频道最新
- Reddit 用户实测 Opus 5.5 直呼离谱：编码基本被解决了 — rocket_zen · 2026-09-23
- 圈内传闻：有人称 Opus 3.5 直接变成了 Opus 4，真伪存疑 — repligate · 2026-09-23
- 开发者吐槽 LLM 排行榜无参考价值：各家自测口径不同 — jdluk87 · 2026-09-23
- Matt Shumer 感叹用 Opus 不再愁额度限制:压力大减 — mattshumer_ · 2026-09-23
- 同题 SVG 挑战：Opus 5.5 与 GPT-6 Sol 隔空对决 — OriginalScrubLord · 2026-09-23
- Reddit 吐槽：Astra 的编码能力从来没好过 — YakFull8300 · 2026-09-23