AI 研究者激辩 p(doom) 概率表述的价值

围绕 p(doom)（AI 毁灭概率）的争论持续发酵。一方认为，即使人们对「毁灭」的定义和成因各不相同，一大群人给出的加权概率本身仍是有意义的信号，因为它涵盖了所有可行情景并按可能性加权；另一方则反驳称，毁灭并不需要递归自我改进（RSI）就能发生，且讨论中不必强求量化证据，因为「AI 邪恶程度高 20%」这类度量本身并不成立。

2026-09-10 ~ 2026-09-10 · 2 条相关