AI 危险能力演示之争:批评者类比 GoF 研究,担忧失控与「信息危害」
orbitanaut · x · 2026-10-29
orbitanaut 与 NathanpmYoung 讨论 AI 安全「吓人 demo」的争议。NathanpmYoung 认为这类危险能力演示的危害性并不像病毒那样直接扩散,现有黑客事件也与之关联不明显;orbitanaut 回应称,反对这类 demo 的人多是担心「失控」风险,以及相关研究本身可能构成类似功能增益(GoF)研究的「信息危害」。
orbitanaut · x · 2026-10-29
orbitanaut 与 NathanpmYoung 讨论 AI 安全「吓人 demo」的争议。NathanpmYoung 认为这类危险能力演示的危害性并不像病毒那样直接扩散,现有黑客事件也与之关联不明显;orbitanaut 回应称,反对这类 demo 的人多是担心「失控」风险,以及相关研究本身可能构成类似功能增益(GoF)研究的「信息危害」。