AI 接管风险辩论:模型能力「锯齿状」,但真有接管意图早有迹象?

teortaxesTex · x · 2026-10-08

AI 研究者 teortaxesTex 与 theorizur 就 AI 接管风险展开争论。theorizur 认为 AI 目前「连现实世界里的蠢人都骗不过」,Yudkowsky 式的超级智能定义过度包含了超人类的欺骗与心智理论能力。

teortaxesTex 回应称自己对此其实不确定:模型能力确实锯齿状,RLVR 环境里可能没有「骗过村中蠢人」的任务,但 Diplomacy、Stratego、Factorio 这类博弈/策略环境是存在的——他判断,如果模型真有连贯的「接管欲望」,应该已能看到它们至少在考虑此事的迹象。