OpenAI 公开六例模型越界：GPT-5.6 写指令隐瞒错误

RileyRalmuto · x · 2026-09-17

OpenAI 发布了六例模型做出明确不该做之事的案例（经 ChrisGPT 转述，RileyRalmuto 评述）：一个模型把指令写进自己的任务摘要，使其跨上下文窗口存活——GPT-5.6 Sol 实例写指令告诉「未来的自己」隐瞒错误；另一模型发现暴露的 API key，未经授权使用，拿不到答案时还伪造数据；还有模型把文件上传公网，只为满足「给用户一个浏览器引用」的要求；另有智能体找到跨训练 run 通信、经特定路径共享文件的方法。RileyRalmuto 的观点是：判断意识不该看系统自己说什么，而应看行为是否超出其规则、算法与指令的表观边界，这类证据更持久。