Altman、Amodei 等同意“放缓前沿”,AI 安全界迎来一批新机会
Astral Codex Ten · rss · 2026-09-14
ACX 周刊开放帖汇总了 AI 安全领域的最新动向与参与渠道:
- 前沿共识:Sam Altman、Dario Amodei、Demis Hassabis 与 Elon Musk 已同意“pace the frontier”(放缓前沿推进),以 Dario 的文章为具体计划起点。
- Project Tailwind:Effective altruist 巨型资助方 Coefficient Giving(原 Open Philanthropy)发起创始人招募,提供最高 200 万美元 pre-seed、最高 2000 万美元 seed 资金,支持技术 AI 安全初创与基础设施。
- 数学家入局:菲尔兹奖得主 Jacob Tsimerman 创立 Mathematical AI Safety Institute,计划 1 月在湾区招 10-30 名数学家,2027 年 9 月扩至 30-100 人。
- 员工动员:OpenAI 员工 Pamela Mishkin 组织“Concerned AI Staff 联盟”推动各公司 CEO 兑现承诺;Cassie Pritchard 在筹组安全导向的工会。
- 普通参与者路径:作者列举联系议员、加入 PauseAI(注意 Global 与 USA 已分裂)、联署 MIRI 华盛顿行动(需 10 万人)、小额捐款、参与 80,000 Hours 职业规划及本地 ACX/EA 聚会等方式。
「漫话AGI」频道最新
- 经济学家 Eichengreen:AI 泡沫破裂后,债市风险比股市更难看清 — TobyWalsh · 2026-09-14
- Vitalik:对抗性治理机制设计理论或成 AI 安全的杀手级应用 — allisondman · 2026-09-14
- 老文重提：AI 国际治理是联合还是对抗，15-40 年智能路线之争 — danfaggella · 2026-09-14
- iamtrask 补充：集体控制的 AI 更好监管，监管俘获风险更小 — iamtrask · 2026-09-14
- iamtrask：AI 安全之争的真问题不是开源闭源，而是单边控制 — iamtrask · 2026-09-14
- CV 学界反思:大模型时代计算机视觉该何去何从 — CSProfKGD · 2026-09-14