METR 开源 AI Agent 评测平台,直面前沿模型红队测试难题
BethMayBarnes · x · 2026-11-15
METR 研究员 spiegelmock 宣布将其实验室评测平台开源,并分享了他围绕「安全评测高能力 Agent」的四大技术难题:
- 如何在不引发安全事故的前提下自动测试沙箱的隔离性;
- 如何让研究者安全地在集群上运行任意 Agent 执行任意代码;
- 如何安全管理由前沿模型红队执行的渗透测试;
- 如何经济且准确地监控所有推理输出中的「Bad Stuff」——以及如何定义它。
平台代码已开源,团队还计划发布更多关于保障 AI Agent 安全的实验结果。
「编程与Agent」频道最新
- 开源 schu-video-generator:不用视频模型,Claude Code 代码渲染完整 MV — CoolTopicsNow · 2026-11-15
- 受 Steve Yegge 启发,开发者放弃 agent 工厂改以 PR 为单位管理 AI 产出 — railsonamaui · 2026-11-15
- Anthropic 研究：团队人手一个 Agent，表现反不如共用一个 — vista8 · 2026-11-15
- AI 木偶喜剧 Almost Television 揭秘:Three.js 片场+AI 编剧室周更成片 — Slackluster · 2026-11-15
- 开发者接手弃更的 Fooocus,为 SDXL 加上框选构图与 SAM3 增强 — EldrichArchive · 2026-11-15
- 博主：无状态 agent 不赚钱，靠 6331 个记忆文件月入 10 万美元 — aryanXmahajan · 2026-11-15