英国 AISI 控制红队招聘研究员，攻关 AI 监视器评测难题
joshua_saxe · x · 2026-09-05
- 英国 AI 安全研究所（AISI）控制红队正在伦敦招聘研究科学家与工程师。前沿 AI 公司使用"监视器"来捕捉行为失准的 agent，该团队的工作是压力测试这些监视器是否真的有效。
- 转发者 Joshua Saxe 与原推作者 Alexander Davies 强调：无论在方法论还是实践层面，业界都急需弄清如何评测 AI control monitors，并邀请 cjgriffin 与英国 AISI 红队共同探索政府应如何切入这一问题。
所属事件:英国 AISI 控制红团队伦敦招聘，专攻压测 AI 监视器(2 条相关)→
「公司和人」频道最新
- Anthropic 早期快闪店全场免费送，网友感慨当时入职股权已翻 10 倍 — signulll · 2026-09-05
- Product Hunt 疑似不再要求产品必须由个人创始人发布 — ThePeterMick · 2026-09-05
- VentureBeat 编辑总监离任，三年写了 700+ 篇 AI 报道 — MichaelFNunez · 2026-09-05
- 用户在 Claude 里威胁 Anthropic CEO，公司直接报警 — kyliebytes · 2026-09-05
- Google 研究者谈模型可监控性:投入多少、是否停发难监控模型 — sandersted · 2026-09-05
- 硅谷创业者自嘲:"往火坑里铲风投的钱,换成 token" — Scobleizer · 2026-09-05