METR 与 Redwood 入驻 OpenAI 三周，评估内部 agent 失准监控
CFGeek · x · 2026-10-22
METR 发布：今年夏天，来自 METR 和 Redwood Research 的两名员工在 OpenAI 现场驻场三周，参与「嵌入式评估试点」（embedded assessment pilot），评估 OpenAI 用于监测内部 agent 是否出现失准（misalignment）的系统。工作简报现已公开。这是第三方安全实验室深度介入前沿实验室内部 agent 安全监控的少见案例。
所属事件:OpenAI 首次开放内部监控系统,接受 METR 驻场评估(3 条相关)→
「安全」频道最新
- PHP2Shell 两个 9.2 分 RCE 漏洞泄露,补丁发布 20 分钟即现扫描潮 — cyb3rops · 2026-10-23
- 中国 AI 公司也在热议递归自我改进,但故事是自下而上的商业竞赛 — Afinetheorem · 2026-10-23
- AI 研究员警告：网络攻防进入 AI 军备竞赛，防御方必须抢先 — Yuchenj_UW · 2026-10-23
- David Sacks 力挺用户授权 Agent:银行共享凭证不是网络攻击 — kevinnbass · 2026-10-23
- 安全研究员用 Node.js 复现 Brotli 内存损坏漏洞 CVE-2026-111497 — evilsocket · 2026-10-23
- DeepSeek 与 MiniMax 完成中国 AI 出口新规申报，开源出海获放行 — Stannis_Loyalist · 2026-10-23