长文起底 AI 末日论社群:从理性主义到拯救叙事与邪教化倾向

Dimillian · x · 2026-10-24

Ian K. Duncan 的长文《Sex, AI, and the Apocalypse》从 Anthropic 研究员 Jacob Coxon 的辞职信切入——他在放弃未归属股权的情况下离职,警告 AI 可能在十年内毁灭人类,称「这不是营销噱头」,帖文一天内破亿浏览;Anthropic 对齐科学负责人 Evan Hubinger 随即附和,称个人估计十年内灭世概率超 10%。

文章核心论点:要评估这些末日警告的分量,必须理解发声者所处的那个约 25 年历史的互联网亚文化(理性主义/有效利他主义社群)。作者追溯该社群如何从「清晰思考」的社区,孕育出拯救叙事、虐待性实验、种族科学和对威权的偏爱,并论证在这些人如今要求公众信任、主导 AI 安全话语时,这段历史为何重要。