ML 研究者集体反击末世论:超级智能灭绝论是科幻小说

TheKanter · x · 2026-11-16

一场 AI 圈内关于安全叙事的争论正在发酵。开发者 giffmana 发文称,"超级智能将接管并毁灭人类"的说法纯属科幻小说式妄想,分散了对真实且紧迫问题的注意力——比如对就业市场的冲击、防止脚本小子利用 AI 进行网络攻击。他强调 LLM 并不会在真空中"自主决定"并"行动":模型只是基于 prompt 生成 token,且权重在拥有数 TB 的巨型集群上,"快速自我复制"几乎不可能实现。

随后多位 ML 研究者声援:有人表示"必须倾听真正的机器学习研究者,而不是扮演安全卫士的表演者",认为将算法部署到现实中的风险始终源于人类的决策,人们应停止把算法拟人化并承担责任;还有人对"本领域的叙事被同人作家接管"感到失望,希望更多有公信力的学者(如 Lucas)站出来反对这种论调。整个 thread 反映了"务实派"与"末日论派"之间持续升级的张力。

所属事件:ML研究者集体反驳超级智能灭绝论(2 条相关)→

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →