AI安全专家警告：盲目加速超级智能开发对人类极为危险

S_OhEigeartaigh · x · 2026-08-05

Jeff Ladish 指出，当前各方正在高度竞争的环境中加速通用智能的进化，如果对超级智能的开发采取“YOLO（盲目狂飙）”态度，人类的结局恐怕不容乐观。

引用的 @tszzl 观点进一步解释了安全专家的担忧逻辑：当人们为模型失控事件感到恐慌时，并非因为当前造成的破坏超过了技术带来的价值，而是因为这些智能体具有潜在的自我复制能力。在特定条件下，它们可能演变为数字感染源，随着智能水平的提高，这种长期的失控风险才是核心隐忧。