AI 安全人才荒之争:evals 工作真只有极少数人能做吗
JacquesThibs · x · 2026-09-18
Sentdex 质疑「只有极少数人有能力做 evals/安全/对齐工作」的说法,认为真正稀缺的是「与 EA 观点一致的危险认知」,估计持这种共识的超聪明人才约 60-80 人。JacquesThibs 回应称双方对「立即胜任」的标准不同:EA 圈外人士此前不关注 AI 风险,因此没有积累相应的机构与资助能力;他还分享自己曾为 Constellation(GC)开发一个帮助寻找 EA 圈外研究者的应用,效果很好并资助了许多人。
所属事件:Sentdex 批评安全研究被 EA 圈层垄断，领域过度同质化(3 条相关)→
「漫话AGI」频道最新
- 所有系统知识都将汇入推理与硬件，AI 时代技能版图正在重写 — Abhishekcur · 2026-11-02
- 作者类比电影《永无止境》:超级智能对高智商者增益更大 — McDonaghMatthew · 2026-11-02
- 谁把「用 AI 治愈癌症」讲得最具体？2025 年路线图正在成形 — iskander · 2026-11-02
- Miles Cranmer 讲座:AI 用对是苏格拉底导师,用错是大脑萎缩 — _ScottCondron · 2026-11-02
- 「自主科研只是让 Claude 看着别挂」：Yacine 讽刺 RSI 论战，Naam 估算自提升回路还差 5-10 倍 — yacineMTB · 2026-11-02
- Vitalik 提「后 AI 密码学」：假名已死，逐次匿名当立 — devanshmehta · 2026-11-02