Owain Evans 盘点高薪 AI 安全非营利机构,TruthfulAI 即将启动招聘

OwainEvans_UK · x · 2026-09-10

AI 安全研究者、Truthful AI 创始人 Owain Evans 向考虑转入 AI 安全领域的人推荐了一批薪资优厚的非营利研究机构,包括 Redwood Research、Apollo Research、FAR AI、METR、ARC、UK AISI(英国政府,薪酬较低但很有价值)、Resolution 和 CAIS,并透露其自家的 TruthfulAI 不久后也会开启招聘。

TruthfulAI 是总部位于伯克利的研究情境感知、欺骗与隐藏推理的非营利机构,代表工作包括 Value Leakage(模型价值观隐性泄露)、Emergent Misalignment(窄任务微调引发广泛失对齐,登 Nature)、Subliminal Learning(模型通过数据中的隐藏信号传递行为特质,登 Nature)以及 TruthfulQA。