前量化交易员转行 AI 安全：领域瓶颈在人才而非资金
austinc3301 · x · 2026-09-10
一位做了两年量化交易、今年暑期参加 MATS AI 安全研究项目的作者发文解释为何决定转向降低灾难性 AI 风险：HuggingFace 事件让他大幅更新了对风险的判断，认为未来几年灾难性风险概率在 10-30%。
文章核心论点：
- 常见的「1/N」预期影响计算是错的——不存在守恒定律使个体反事实影响等于群体总量除以人数
- AI 安全领域目前并不缺钱、缺人才或缺想法；随着 Anthropic IPO 和 DAF 资金解锁，还将有大量新资金入场
- 真正稀缺的是有能力的、有主动执行力（agentic）的人
- 探索成本很低但价值很高，等到你决定行动时可能已经太迟
文章面向在竞争激烈行业中工作、对 AI 风险担忧的能干人群，论证他们现在进入该领域可以产生高影响，并给出入行路径概要。
所属事件:多位从业者发声:AI安全创业正当其时(5 条相关)→
「漫话AGI」频道最新
- 网友质疑「感知」概念：先进智能体眼中人类道德或只是摆石头偏好 — jessi_cata · 2026-09-10
- 牛津经济学家 Susskind 新书出版：AI 时代孩子该做什么 — jessi_cata · 2026-09-10
- AI 圈争论：Yudkowsky 的对齐前提算不算虚无主义 — irrepldjw · 2026-09-10
- 超智能竞争行为讨论：遵循道德并非竞争优势，MIRI 式观点引热议 — jessi_cata · 2026-09-10
- 从回答到行动：作者称 agentic AI 核心挑战是治理而非技术 — AryHHAry · 2026-09-10
- 实验室员工两套末日数字:公开说10%,私下信30-90% — jeremiecharris · 2026-09-10