RL 名家 Szepesvári 谈 AI 风险:单个高智能体构不成生存风险

CsabaSzepesvari · x · 2026-09-14

强化学习泰斗 Csaba Szepesvári 与网友讨论如何思考 AI 风险。他提出一个思维模型:把「AI」替换成「一个聪明人」「一个强大组织」来分析——因为人类唯一有真实经验应对的通用智能技术就是人类智能本身,几个世纪以来我们为它建了教育、制度、法律等护栏。他认为单个非常聪明的人不会构成人类生存风险;若设想一支廉价、无道德约束的「聪明人军团」,风险确实在上升,但他看到的多是非生存性风险,且该场景下仍是由「人」负责,这是一个不错的思考起点。