英国 AI 安全研究所对齐红队招聘研究工程师与科学家

birchlse · x · 2026-09-29

英国 AI Security Institute（AISI）旗下对齐红队（Alignment Red Team）正在伦敦招聘研究工程师/研究科学家，申请截止日期为 2026 年 10 月 11 日。

该团队专注于检测和评估前沿 AI 系统中的失准（misalignment）问题，开展研究以发现欺骗性对齐、研究破坏、奖励寻求等失控风险，并在模型部署前后进行评测，结果直接反馈给前沿 AI 公司和英国及盟国政府，用于改进对齐训练与监控方法。AISI 自称是全球最大、资金最充足的先进 AI 风险研究团队，直通英国首相府并与全球前沿厂商合作。