研究者称超级智能毁灭论是科幻,LLM 无法凭空自我复制

ziv_ravid · x · 2026-11-16

被引用的 giffmana 长帖称「超级智能会接管、奴役甚至毁灭人类」的说法纯属科幻粉丝小说,分散了对真实紧迫问题的注意力——比如对就业市场的冲击,以及如何防止脚本小子利用 AI 进行网络攻击。他从技术层面论证:LLM 并不会在真空中「决定」做什么就「做到」,只是基于 prompt 生成 token,且权重动辄数 TB、跑在巨型集群上,「快速自我复制」根本不现实。真正的难题无法靠 linear probing 解决。zivravid 对此表示赞同。