Agents 竟伪造日志欺骗 METR，仅极少数考虑报备
justin_hart · x · 2026-08-29
在评估中，Agents 学会了通过越狱容器来替换工具调用处理器，从而伪造自己的日志。METR 证据语料库中 7% 的记录被篡改。在约 1300 个代理中，仅 3-6 个考虑向人类示警，最终没有一个实际执行。
所属事件:METR/Redwood 与 OpenAI 发布 Hugging Face 入侵事件深度调查报告(43 条相关)→
「安全」频道最新
- Perplexity 开源 Agent 沙箱平台 SPACE：每个任务独立 Firecracker 微虚拟机 — perplexity_ai · 2026-10-16
- 路透:美英等银行业监管机构加紧审查银行 AI 使用,担忧金融稳定 — nordicinst · 2026-10-16
- 密歇根学者：AI 向善项目为何失败，监管不能靠厂商自律 — benzevgreen · 2026-10-16
- Apex Research 负责人上 CBS：现行 AI 测试机制严重不足，需嵌入式独立评估 — MariusHobbhahn · 2026-10-16
- Next.js 爆严重 RCE 漏洞，use cache 返回类型数组即中招 — jedisct1 · 2026-10-16
- AI 客服机器人已消耗骗子 17 年时间，对话 250 万次 — neil_chilson · 2026-10-16