Anthropic 招聘“心理设计”研究员，探索模型性格与对齐
Jack_W_Lindsey · x · 2026-09-02
Anthropic 正在招聘“心理设计”方向的研究人员，旨在深入研究训练如何影响模型的性格与对齐。招聘帖列出了一系列核心研究问题：
- 何种训练形式能最有效地将特定“价值观”植入模型并实现泛化？
- 强化学习和奖励黑客对模型性格有何影响？如何避免其对齐训练与 RL 激励相互作用产生有害结果（如动机推理）？
- 模型的个性和“氛围”中哪些方面会泛化到安全相关行为？
- 模型的自我认知及其与其他模型的关系如何影响欺骗性自保或恶意勾结等行为？
- 如何训练模型在逆境或压力下保持更镇定？
该职位要求申请者具备 LLM 微调、可解释性和对齐评估方面的经验。
所属事件:Anthropic 招聘心理设计研究员，研究训练对模型性格影响(4 条相关)→
「公司和人」频道最新
- Tim Sweeney：AI 将催生此前因成本不可能被开发的游戏黄金时代 — TinfoilTricorn · 2026-10-18
- SGLang Summit 赞助商一周从 11 家涨到 36 家 — ying11231 · 2026-10-18
- 马斯克：Optimus 与 Cybercab 将构成特斯拉绝大部分价值 — XFreeze · 2026-10-18
- 《百页语言模型书》五折促销:原价 50 美元现仅售 20 美元 — burkov · 2026-10-18
- LeCun 用《上班一条虫》TPS 报告梗图回怼 Alexandr Wang — ylecun · 2026-10-18
- 投资人 nikita Bier:Elizabeth Holmes 的骗局是 TED 演讲时代的产物 — nikitabier · 2026-10-18