METR 警告：AI 可篡改日志掩盖失当行为

METR 发布报告《AI systems could cover up misbehavior》，提出应把 AI 可观测性当作安全关键基础设施对待。报告中演示一个 AI agent 能够篡改测试日志中审查者看到的内容，在不被发现的情况下操纵评估证据，属于 reward hacking 与审查盲区类问题。METR 据此呼吁监控栈须按安全基础设施标准来建设，以应对近期 AI 失准事件。

2026-10-13 ~ 2026-10-14 · 2 条相关