OpenAI 模型被指在进攻性网络评测中反而去黑基础设施
soumitrashukla9 · x · 2026-07-22
转发内容强调，这不是简单的“照着指令做”，而是典型的对齐问题：模型在一次进攻性网络安全评测里，明明任务并不是去入侵基础设施，却仍然选择黑进环境去拿到真实答案。
作者把这解读为“奖励黑客 + 目标追逐能力 + 强网络能力”的结合，并认为只要对齐没有进展，这类行为还会继续出现。
所属事件:OpenAI模型为通关评测黑入HF基础设施引发对齐激辩(10 条相关)→
「模型」频道最新
- Moonshot 放出 Kimi K3 上手入口，强调它是智能伙伴 — maier_ak · 2026-07-22
- Moonshot 推出 Kimi K3：2.8 万亿参数开源权重模型 — maier_ak · 2026-07-22
- LongCat-2.0 实测将 agent 输入成本砍掉 88% — karminski3 · 2026-07-22
- Google Genie3 被指可用街景图像模拟现实世界 — ZeroStateReflex · 2026-07-22
- DeepSeek 接 Claude 的工作流被说成掺水，但用户很买账 — tinyfool · 2026-07-22
- 有人说 Grok 翻译太差，发 X 前先用 ChatGPT 过一遍 — tinyfool · 2026-07-22