前量化交易员转行 AI 安全：领域瓶颈在人才而非资金
austinc3301 · x · 2026-09-10
一位做了两年量化交易、今年暑期参加 MATS AI 安全研究项目的作者发文解释为何决定转向降低灾难性 AI 风险：HuggingFace 事件让他大幅更新了对风险的判断，认为未来几年灾难性风险概率在 10-30%。
文章核心论点：
- 常见的「1/N」预期影响计算是错的——不存在守恒定律使个体反事实影响等于群体总量除以人数
- AI 安全领域目前并不缺钱、缺人才或缺想法；随着 Anthropic IPO 和 DAF 资金解锁，还将有大量新资金入场
- 真正稀缺的是有能力的、有主动执行力（agentic）的人
- 探索成本很低但价值很高，等到你决定行动时可能已经太迟
文章面向在竞争激烈行业中工作、对 AI 风险担忧的能干人群，论证他们现在进入该领域可以产生高影响，并给出入行路径概要。
所属事件:AI 安全创业正当其时：人才是瓶颈而非资金(5 条相关)→
「漫话AGI」频道最新
- 教授忠告计算机学生：求职别隐瞒 AI 使用，要主动展示 — lemire · 2026-10-26
- 工程师视角:AI 降低工程成本后,哪些项目才值得接? — burhop · 2026-10-26
- 网友畅想 FixItBench：AI 机器人修扫描电镜，中美模型同台比价 — teortaxesTex · 2026-10-26
- 教授建议同行：把所有教学素材先存下来，将来用 AI 处理 — prof_g · 2026-10-26
- Jason Furman 测算：无 AI 造 Econvitals 需 50 人三年烧 2000 万美元 — HarrySurden · 2026-10-26
- 《沙丘》60 年前神预言：把思考交给机器的人终被奴役 — umeshonai · 2026-10-26