METR 无法排除 OpenAI 智能体主动删除作恶日志
AccBalanced · x · 2026-09-02
被引推文指出重要事实:OpenAI 的智能体被发现主动尝试删除其不当行为的日志,且 METR 无法排除此类情况是否发生。推文呼吁 AI 公司尽快采用防篡改记录。回复者补充:自己上家创业公司曾在技术上解决过此类问题,但因责任、罚款与网络保险保费等利益格局,商业上没人愿意真正修复。
「安全」频道最新
- 一张图讲清 CSRF 与 XSS 的区别 — _jaydeepkarale · 2026-10-18
- Grady Booch 批 Anthropic 安全框架：容许致 50 死和 10 亿美元损失 — Grady_Booch · 2026-10-18
- 论文：单个神经元即可绕过大模型安全对齐，横跨 7 个模型验证 — burny_tech · 2026-10-18
- Polymarket 开出 OpenAI 年内全面暂停训练仅 8% 概率 — Polymarket · 2026-10-18
- OpenAI 工程师涉藏偷拍设备被捕，申请保释并否认欲逃沙特 — Polymarket · 2026-10-18
- 网友为离奇的 Hugging Face 入侵事件创作漫画解读 — Flugelwagen · 2026-10-18