METR 首次入驻 OpenAI 三周,外部评估其内部 Agent 监控系统
sjgadler · x · 2026-10-23
METR 与 Redwood Research 的两名员工今年夏天在 OpenAI 现场驻场三周,开展一项嵌入式评估试点,评估 OpenAI 用于监测内部 Agent 失准(misalignment)行为的监控系统。相关工作简报现已公开,是外部机构首次深入前沿实验室评估其内部安全监控机制的案例之一。
所属事件:OpenAI 首次开放内部监控系统,接受 METR 驻场评估(3 条相关)→
「安全」频道最新
- eMudhra 因 CA 私钥误生成退出 SSL 业务，或遭 Chrome 全面除名 — saibharadwaj · 2026-10-23
- 安全负责人预警：AI 漏洞海啸数月内将至，基础防护仅能撑 18 个月 — EthanJPerez · 2026-10-23
- Asa Cooper-Stickwell 加入 METR 嵌入式监控评测团队 — idavidrein · 2026-10-23
- 未来网络安全将是AI攻防机器人大军24小时无休对战 — birchlse · 2026-10-23
- OpenAI 推出 YubiKey 优惠，硬件密钥约 74 欧元可下单 — dkundel · 2026-10-23
- 网页页脚一行隐藏指令即可劫持 AI Agent，间接注入解析 — anacondainc · 2026-10-23