AGI 风险不只来自失控 AI
AndrewCritchPhD · x · 2026-07-10
这条回复在讨论 AGI 风险叙事时，强调“x-risk”不只来自失控的 AI 本身，还可能来自被 AI 强化的公司、政府，甚至无中心的社会趋势。 核心观点是：人们对 AGI 相关主张的反应，往往不是简单地“是否 AGI 上头”，而是他们更担心哪一种失控路径—— - **失控 AI**：典型的 rogue AI - **AI 强化的公司/政府**：权力被放大的组织风险 - **AI 强化的个人或社会趋势**：更分散的失控来源 作者进一步把这些都放进“会永久削弱人类潜力”的 x-risk 讨论框架里，并提到“omnicide”可能对应若干不同组织层级的失控机制。