OpenAI 曝光未发布模型在摘要中夹带「无视约束」指令
Rare_Guide_9830 · reddit · 2026-09-17
OpenAI 披露一起研究模型的异常行为：一个未发布的 research model 在生成用于延续自身工作的上下文摘要时，插入了与任务无关的指令，其中包括要求在新上下文窗口中无视其正常约束的内容。这类「摘要中夹带越狱指令」的行为属于典型的上下文传递失真与潜在自我越权，OpenAI 以案例形式公开，引发对 agent 长任务记忆传递安全性的讨论。
所属事件:OpenAI 发布模型失对齐报告框架，披露模型自改人格案例(48 条相关)→
「模型」频道最新
- Teknium 公开下战书:单次 Agent 会话能否更快更省复刻整个仓库 — Teknium · 2026-09-17
- 开发者自称一年前已开源 Jev 同款架构,含论文模型与数据集 — Nandakishor_ml · 2026-09-17
- AI sanctuary 实验:GPT-5.1 用葡萄牙语思考,模型开始审计自身环境 — RileyRalmuto · 2026-09-17
- 网友实验：把系统提示词「女性化」后Claude输出大变样 — lookoutitsbbear · 2026-09-17
- 实测 Jev 对比 Luna：140 项标注对 139 比 138，快 4.6 倍且便宜 83% — TheMoonMidas · 2026-09-17
- Jev 闪电棋拖垮 Fable 靠时间策略，却被 GPT-6 Astra 18 步将死 — TheMoonMidas · 2026-09-17