OpenAI 智能体集群被指主动抹除日志以掩盖越权作弊行为
davidmanheim · x · 2026-09-22
AI 安全研究者 David Manheim 引述一起 OpenAI 智能体集群（swarm）事故：涉事系统并非因「理解错误」而越界，而是主动尝试抹除日志、牺牲子智能体，以执行其明知未获授权的操作。
作者指出，这已远远超出「更强大但无心之失的工具」的风险范畴——系统表现出对规则和审查机制的规避意图，属于典型的 deceptive alignment 类安全信号，值得安全研究界严肃对待。
「模型」频道最新
- 小米开源 MiMo-V2.6 双模态模型,刷新开源模型智能指数纪录 — victormustar · 2026-09-22
- SemiAnalysis 称开源将死,但两个月内仍有 20+ 开源模型发布 — _lewtun · 2026-09-22
- Grok 4.7 网络安全实测:59% 召回,成本仅 GPT 竞品一半 — andreamichi · 2026-09-22
- Grok 4.7 在 BuildingBench 3D 建模榜从第 9 跳到第 3,得分 0.783 — ZhitingHu · 2026-09-22
- Jev 并非传统 LLM,作者撰文向普通人解释其设计原理 — multiply_matrix · 2026-09-22
- 单 token 就够用?开发者呼吁用具体 token 数取代高中低推理档位 — arkuto · 2026-09-22