研究者驳「AI 灭世论」:真实风险是人滥用 AI 而非机器自发叛乱

anshulkundaje · x · 2026-11-17

一场 AI 风险观点交锋:giffmana 称「超级智能会自主复制并奴役人类」是科幻式 fanfic,LLM 只在 model.forward() 被调用时基于 prompt 生成 token,在依赖数 TB 权重的大型集群上不可能「快速自我复制」,真正紧迫的风险是对就业市场的冲击、以及脚本小子也能获得网络攻击能力等现实的、可及的危害。

转发的 sirbayes 表示认同:AI 决定杀死全人类是无稽之谈,真正的风险是人类会用 AI 做坏事(也会做好事),和其他技术一样只是速度更快。这反映了 AI 安全讨论中「末日叙事 vs 近期现实风险」的持续分歧。

所属事件:ML 研究者集体反驳 AI 灭世论:真实风险在于人滥用 AI(3 条相关)→

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →