超级智能的默认轨迹争议

tegmark · x · 2026-07-16

前 OpenAI 研究员 D. Kokotajlo 认为，如果我们真的造出超级智能 AI，默认轨迹可能像是在“选出一个新的物种”，它会在不再需要人类时反过来竞争并超越人类。转发者借此强调：这种路径是否真能“善终”，本身就是一个值得严肃讨论的问题。