iamtrask:AI 安全与权力集中是需同时最小化的双重生存风险

iamtrask 提出 AI 领域两大核心问题——AI 安全与权力集中,二者均为概率未知而负效用无限的生存级风险,需要共同最小化,且相互关联:权力越集中,单点失效风险越大。他随后拓展观点,反对以一方问题否定另一方的重要性,称这种非此即彼的言论天真且往往出于私利,并特别推崇 FLI 的双重最小化治理框架。

2026-09-11 ~ 2026-09-11 · 2 条相关