研究者驳「AI 灭世论」:真实风险是人滥用 AI 而非机器自发叛乱
anshulkundaje · x · 2026-11-17
一场 AI 风险观点交锋:giffmana 称「超级智能会自主复制并奴役人类」是科幻式 fanfic,LLM 只在 model.forward() 被调用时基于 prompt 生成 token,在依赖数 TB 权重的大型集群上不可能「快速自我复制」,真正紧迫的风险是对就业市场的冲击、以及脚本小子也能获得网络攻击能力等现实的、可及的危害。
转发的 sirbayes 表示认同:AI 决定杀死全人类是无稽之谈,真正的风险是人类会用 AI 做坏事(也会做好事),和其他技术一样只是速度更快。这反映了 AI 安全讨论中「末日叙事 vs 近期现实风险」的持续分歧。
所属事件:ML 研究者集体反驳 AI 灭世论:真实风险在于人滥用 AI(3 条相关)→
「漫话AGI」频道最新
- 追问"你是什么":一条滚动作品拆解 AI 回答背后的链条 — reallysoverybad · 2026-11-17
- Ramp 数据:美国头部 1% 企业人均 AI 支出破 1 万美元,半年涨三倍 — inductionheads · 2026-11-17
- 用户与 Claude 共绘自我描述地图:只有记录与见证立场可被外部检验 — impressedimpressions · 2026-11-17
- Daniel Rock 讲座:AI 与科学研究中转移的瓶颈 — erikbryn · 2026-11-17
- 安全派说AI风险被低估,反问:会不会我们其实过度严肃了 — Angaisb_ · 2026-11-17
- 评估者无 Slack 权限,Nathan Calvin 质疑 OpenAI 外部安全评估形同虚设 — NeelNanda5 · 2026-11-17