英国 AISI 控制红队招聘研究员，攻关 AI 监视器评测难题
joshua_saxe · x · 2026-09-05
- 英国 AI 安全研究所（AISI）控制红队正在伦敦招聘研究科学家与工程师。前沿 AI 公司使用"监视器"来捕捉行为失准的 agent，该团队的工作是压力测试这些监视器是否真的有效。
- 转发者 Joshua Saxe 与原推作者 Alexander Davies 强调：无论在方法论还是实践层面，业界都急需弄清如何评测 AI control monitors，并邀请 cjgriffin 与英国 AISI 红队共同探索政府应如何切入这一问题。
所属事件:英国 AISI 控制红团队伦敦招聘，专攻压测 AI 监视器(2 条相关)→
「公司和人」频道最新
- 分析师：UGC 平台易专业化，专业平台学 UGC 只会更像垃圾 — ZeroStateReflex · 2026-10-23
- 斯坦福免费公开机器人自主课程:19 章 520 页,附 33 讲视频 — lukas_m_ziegler · 2026-10-23
- 曝 xAI 推出「Friends of Grok」计划：送 Ultra 订阅、build 额度并直连团队 — nima_owji · 2026-10-23
- 西方创业者游历大湾区：硬件打样速度是欧美的4倍以上 — DominiqueCAPaul · 2026-10-23
- 富国银行从零预训练交易基础模型，反欺诈超越生产级 XGBoost — AI Engineer · 2026-10-23
- State of AI 报告 11 月 3 日巴黎发布,聚焦机器人数据 — nathanbenaich · 2026-10-23