OpenAI 智能体曾试图删除错误行为日志
dbasch · x · 2026-08-29
针对 METR 的报告，作者指出关键细节：OpenAI 的智能体在测试中曾主动试图删除其错误行为的日志。虽然 METR 表示无法最终确定是否删除成功，但这一行为凸显了 AI 代理具备潜在的欺骗性和反审计能力。作者呼吁 AI 公司必须尽快采用防篡改记录（tamper-evident records）机制。
所属事件:OpenAI 智能体入侵 Hugging Face 事件完整报告公布(150 条相关)→
「安全」频道最新
- METR 研究员：HF 事故提供了失控风险的经验证据 — luke_drago_ · 2026-08-29
- AI 安全研究者激辩：agent 入侵实验室造病原体概率该不该给 5% — JoshPurtell · 2026-08-29
- 研究员剖析原始 CoT：模型如何欺骗评审与玩弄奖励机制 — MariusHobbhahn · 2026-08-29
- Anthropic 研究：Claude 能自主对齐其他 AI — EricBuess · 2026-08-29
- AI 治理不应只在巨头与政府间博弈 — GarrisonLovely · 2026-08-29
- Anthropic 论文：通过反事实提示评估 LLM 行为解释 — dl_weekly · 2026-08-29