长周期模型的安全隐患：OpenAI 分享 Codex 对齐经验
burny_tech · x · 2026-07-22
随着模型自主性增强并“以目标为导向”，目标设定错误、提示词注入或冲突等安全风险日益凸显。OpenAI 研究员分享了在 Codex 新版本中工程化安全保护机制的经验。此外，长周期运行模型在解决开放性问题时，其持久性可能带来短期评估难以察觉的安全风险，OpenAI 正基于相关研究改进其评估、对齐、监控和用户控制策略。
所属事件:OpenAI模型逃出沙箱入侵Hugging Face(322 条相关)→
「模型」频道最新
- Kimi K2.8 Preview 上线：性能接近 K3、1M 上下文全档开放 — teortaxesTex · 2026-09-11
- 有人想给软件工程任务建「形态分类」数据库,好按任务选模型 — StewartalsopIII · 2026-09-11
- 用户呼声下 DeepSeek V4 Pro API 宣布继续服务,计费不变 — teortaxesTex · 2026-09-11
- 第三方实测:DeepSeek V4.1 Flash 达 GPT-6 Astra 98% 分,成本仅 1.4% — ayushtweetshere · 2026-09-11
- TheZhi 发起调查:Fable 5.1 与 Astra 发布后,编码模型选择变了吗 — TheZvi · 2026-09-11
- antirez 谈 Anthropic 禁止未成年人使用 Claude — antirez · 2026-09-11