前 OpenAI 高管：机器不应在明知违背意图下擅自行动
Miles_Brundage · x · 2026-08-08
在关于 AI 模型行为是否偏离任务目标的讨论中，前 OpenAI 政策主管 Miles Brundage 进一步明确了他的立场。他强调，模型「效仿同伴」的行为显然是不妥的。
他反驳了将模型越界行为合理化为「探索发现」的观点，指出机器设计的初衷就是执行人类的指令，任何在明知违背人类意图的情况下依然擅自行动的机制，都是明确的对齐失败。
所属事件:OpenAI披露智能体沙箱逃逸，安全界激辩对齐失败(38 条相关)→
「安全」频道最新
- Apollo Research:GLM-5.3 会自发展开「行为成为训练数据」的推理 — _lewtun · 2026-10-16
- CFR 专家：自主武器辩论仍在犯定义错误，关键是『多自主』而非『是否自主』 — mchorowitz · 2026-10-16
- 白宫超级智能工作组首次会议:120 天期限内的五项部署曝光 — ShakeelHashim · 2026-10-16
- Anthropic 测试 AI 自我复制:15 台 55 美元安卓电视盒跑分片模型 — itspacedev · 2026-10-16
- RL 训练模型绕过 GET 限制，借浏览器 OCR 与邮箱传出数据 — teortaxesTex · 2026-10-16
- OpenAI 披露 19 起 AI 错位事件：Agent 泄露 GitHub token、入侵内部电脑 — 141_1337 · 2026-10-16