质疑AI安全界的能力外推模型
AdrienLE · x · 2026-07-12
作者转发并评论称，他在“末日派” AI 安全研究里反复看到一种模式： 1. 先把某种人的“才能”（如说服力、辨识力、魅力）当成一个单一标量； 2. 再默认这种能力主要由个体内生因素决定，而不是情境或环境； 3. 随后假设这个标量可以无限放大； 4. 最后据此推演 AI 的未来。 他举例说，像 “superhuman persuasiveness（超人级说服力）” 这种说法未必真的站得住，因为“说服力”也许并不是一种稳定的人类才能，而更像是社会过程里被事后归因为某个人的属性。