AI 风险争论：『非故意灭绝』说法遭同行嘲讽

inductionheads · x · 2026-09-11

作者抨击「超级智能会非故意地灭绝人类」这类表述：『你们听听自己在说什么』。回复中有人反问：难道你们认为 OpenAI 和 Anthropic 在故意教模型杀我们吗？这条帖子折射出 AI 圈围绕『灭绝论』表述合理性的新一轮争论——批评者认为『非故意』的说法自相矛盾，而辩护者则强调风险来自对齐失败而非恶意。恰逢 Anthropic 研究员重提『十年内 AI 灭绝人类概率超 10%』引发热议，这场争论正在扩散。