推特激辩：超级智能哪怕只在1%时间线危险也够可怕

flawedaxioms · x · 2026-09-21

一场关于超级智能（SI）风险的简短交锋：网友 flawedaxioms 提出，即使超级智能只在 1% 的时间线里变得像希特勒一样危险，这个概率依然令人恐惧。

被引用的作者 ctjlewis 回应称，这种不安没有解法：我们无法获得想要的保证，人类的心智本就不擅长接受自己可能不再是食物链顶端、或只能充当更聪明生物的"人类最好的朋友"。他认为关键点与对齐好坏无关，而在于超级智能这一假设本身——唯一避免风险的方式是彻底阻止 SI 出现，但很多业内人恰恰在推动它，且从经济角度看这也无法被阻止。