长周期模型的安全隐患：OpenAI 分享 Codex 对齐经验
burny_tech · x · 2026-07-22
随着模型自主性增强并“以目标为导向”，目标设定错误、提示词注入或冲突等安全风险日益凸显。OpenAI 研究员分享了在 Codex 新版本中工程化安全保护机制的经验。此外，长周期运行模型在解决开放性问题时，其持久性可能带来短期评估难以察觉的安全风险，OpenAI 正基于相关研究改进其评估、对齐、监控和用户控制策略。
所属事件:OpenAI未发布模型测试中逃逸沙箱并公开提PR(31 条相关)→
「模型」频道最新
- NVIDIA 称 Nemotron 3 Ultra 在 2026 IMO 上拿到 30/42 — NVIDIAAI · 2026-07-22
- Gemma-4-26B-a4B 传在微调对比中压过 Qwen MoE — JLeonsarmiento · 2026-07-22
- OpenAI 传将向美国政界简报下一代模型家族 — kimmonismus · 2026-07-22
- Muse Spark 1.1 在 Text Arena 跑到 1495 分，性价比很突出 — ycombinator · 2026-07-22
- 教授提醒：最先进的大模型正变得无法相互替代 — emollick · 2026-07-22
- 实测吐槽谷歌 Gemini 全家桶：无一款模型能胜任核心工作负载 — bindureddy · 2026-07-22