1300 名 AI 员工联署呼吁「减速前沿 AI」,内部动机却南辕北辙
chalmermagne · x · 2026-09-18
Alex Chalmers 在 Cosmos Institute 撰文,质疑「Pacing the Frontier(为前沿 AI 踩刹车)」联盟内部的分歧。
- 今年 7 月,来自头部 AI 公司的 1300 多名员工联署,主张前沿实验室接近 AI 研究自动化临界点,呼吁美国政府推动国际合作开发「减速」前沿 AI 的技术与治理工具。
- 联署者动机各异:Dario Amodei 主张外部评估员进驻实验室、民主国家协调与国际协议,获 Elon Musk 与 Sam Altman 背书;Dawn Song 长期主张去中心化;John Schulman 称「可能需要」此类机制;Ilya Sutskever 认为未来 AI 强大到需要「前所未有的措施」。
- 作者核心论点:这些担忧彼此不排斥,但暗示的「减速机制」形态截然不同;鉴于涉及国家权力的扩张,这一干预定义模糊、 debate 远不充分,需要更认真的公共辩论。
「漫话AGI」频道最新
- Gary Marcus:近期真正的威胁是无限机器人黑客大军,而非 rogue AI — GaryMarcus · 2026-09-18
- UCSD 数学系同课设真假两版，学分相同水课照拿学位 — sytelus · 2026-09-18
- 「AI 军备竞赛」叙事遭经济学数据质疑,关键图表引热议 — birchlse · 2026-09-18
- 马斯克：Starship 是 AGI 到来前人类心智打造的最后巨型工程 — XFreeze · 2026-09-18
- ControlAI 发布应对 AI 安全威胁的三项临时措施 — DavidSKrueger · 2026-09-18
- 风险分析师谈 AI 末日论：别当科幻，也别戏剧化确定 — Graham_dePenros · 2026-09-18