Daniel Faggella 提「道德奇点」：AGI 价值漂移不可预测

AI 思想者 Daniel Faggella 提出「道德奇点」概念：当超级智能的价值观随能力提升而快速、不可预测地演化时，人类将无法预测最强系统会珍视什么，也无法确保其遵循既定目标，人类存续因此难以保证。他类比从藻类到人类的演化路径，论证不应把「不确定性」等同于安全，对超级智能的价值稳定性持悲观态度。

2026-09-22 ~ 2026-09-23 · 2 条相关