METR 首次进驻 OpenAI 三周，评估内部智能体监控系统的漏洞
j_asminewang · x · 2026-10-23
METR 与 Redwood Research 的两名员工今夏在 OpenAI 驻场三周，开展嵌入式评估试点，评估 OpenAI 用于监测内部智能体「错位」行为的系统，简报现已公开。前 OpenAI 安全高管 Miles Brundage 引用并评论：外界对评估条款的批评固然存在，但 METR 拿到的已是最好的条件，多数公司甚至从未嵌入过评估——行业需要的是有约束力的标准，而非临时讨价还价。
所属事件:METR 与 Redwood 嵌入式评估 OpenAI：Agent 监控可被绕过，报告删减 23 页(12 条相关)→
「安全」频道最新
- The Information：AI 找漏洞越来越快，防御者修复窗口或只剩几天 — AccBalanced · 2026-10-23
- AI 安全圈风波:Greenblatt 被传向媒体泄密,同行斥为无稽之谈 — NathanpmYoung · 2026-10-23
- GLM-5.3 展现「对齐美德」引热议:RL 或催生更新感知推理 — teortaxesTex · 2026-10-23
- 美国最大医检机构 Quest Diagnostics 遭黑客攻击，患者数据泄露 — GarrisonLovely · 2026-10-23
- LLM 版权护栏现漏洞：拒绝抓取网页全书，却肯打包 ZIP 下载 — burkov · 2026-10-23
- 蜜罐服务器 6 小时遭 1.4 万次攻击,近乎全是自主 AI agent — marcvanderchijs · 2026-10-23