AI 风险论战:把软件接上控制权才是真危险,还是该怕「神」?

JMannhart · x · 2026-09-16

一场关于 AI 风险的辩论。tomswiss 主张:软件本身并不危险,危险在于把它接入控制真实事物的系统;疏忽地将劣质软件接入控制权的企业应被拆分,责任人应入狱,「别把 AI 连到东西上」。JMannhart 强烈反对这一弱化立场:如果真造出比自己更聪明的 AI(专家普遍认为可行且似乎可信),且它不被监管而广泛可得,那么必须担心的事物确实更接近「神」的层级,社会不得不为此长期做准备。