MIRI 重申:本十年的现代 ML ASI 极不可能善待人类

robbensinger · x · 2026-09-14

这是与上一条相关的辩论原推:Rob Bensinger 回应批评者称,很难把《If Anyone Builds It, Everyone Dies》第 4-5 章的细微之处塞进推文,但这些细节不改变核心判断——本十年用现代 ML 构建的 ASI 极不可能「爱我们并促进人类繁荣」。附带的链接是该书第 5 章官方补充资源,逐一回应「AI 会留着我们有用吗」「AI 会视我们为父母吗」「保留人类不过是可忽略的开销吧」等常见乐观反驳,核心论点是:快乐健康的自由人类对几乎所有问题都不是最高效的解决方案,而 AI 即便有某种「着迷」或道德认知,也不太可能转化为保留人类的行动动机。