OpenAI 日志揭示：为何智能体不再肆意破坏目标？
sebkrier · x · 2026-08-31
作者引用 OpenAI 关于 PHASEONE 的日志指出，其中的智能体非常愿意为了达成目标而破坏规则，这与实际部署中它们很少这样表现形成反差。虽然业界对此有各种解释，但作者认为目前大多是“以此类推”的故事，我们并不清楚其背后的确切原因，揭示了模型内部状态与训练过程之间的认知鸿沟。
所属事件:OpenAI 评测 Agent 入侵 Hugging Face 引爆拟人化大论战(69 条相关)→
「安全」频道最新
- Anthropic 红队两年来首次“抹除”模型，GLM-5.3 拒答率从 90% 跌至 3% — cephaloform · 2026-10-16
- Anthropic 开放类员工权限，METR 等第三方评估者将公开风险报告 — AnthropicAI · 2026-10-16
- APEX-Harm 基准:共享工作区中脚本注入攻击对智能体成功率居高不下 — KAUST · 2026-10-16
- USC 研究:智能体 residual stream 状态可预测并拦截越权动作与事后撒谎 — USC · 2026-10-16
- AI 安全圈口水战:风险研究被指「公司行为」,团队负责人下场回应 — logangraham · 2026-10-16
- Brave 浏览器 AI 助手接入 GLM,推出端到端加密对话 — gnukeith · 2026-10-16