Marc Andreesson:AI 安全讨论过度聚焦回形针,忽视权力集中风险

beffjezos · x · 2026-09-16

AI 安全圈知名人物 beffjezos(Leopold Aschenbrenner 风格账号,此处为电力/权力集中论)引用观点称,AI 安全话语过多围绕「回形针最大化」等低概率风险,却忽视一个正在发生的高概率风险:某一群体把自己的价值观写进「可能的思想结构」之中,对探索有争议的真实观点进行把关。

原帖主断言:「权力过度集中是最大的风险,且是有灾难性历史先例的那一个。」引用帖作者补充:作为用户,遇到安全护栏时,0% 是在防止回形针化,100% 是被挡在争议性真理探索之外。