评论员警告:造出 ASI 也未必守得住,自主武器方有动机武力夺取
hecubian_devil · x · 2026-10-18
hecubiandevil 提出一个尖锐判断：即使造出 ASI,拥有权也未必稳在造模型的人手里。当自主武器系统的能力/规模达到临界点，如果模型构建者没把 ASI 接上自杀式无人机，掌握杀手无人机的一方将有充分动机用武力从你手中夺走 ASI 的控制权。她指出这暴露了核心矛盾：你在建造足以摧毁现有社会秩序基础的东西，而你对它的掌控却依赖他人尊重产权。EigenGender 回应称这是真实但非最恐怖的 ASI 风险，值得思考如何防范。
所属事件:评论员争论：造出 ASI 也未必守得住(2 条相关)→
「漫话AGI」频道最新
- 历史上卡车取代马车的启示：自动化伤害最小的路径是新人不进场 — soumitrashukla9 · 2026-10-23
- 研究者反驳「AI 网络安全恐慌」：卖防御先造焦虑是老剧本 — gerardsans · 2026-10-23
- Nina Schick：算力不足本身就是巨大的网络与整体安全风险 — NinaDSchick · 2026-10-23
- 投资人观点：AI 若是泡沫，也是最「分裂」的一个 — robleclerc · 2026-10-23
- Chamath：银行将率先用服务条款封杀 AI Agent — nicolechirps · 2026-10-23
- AI 研究者：Claude 替我完成了多年前放弃的繁琐研究任务 — MikePFrank · 2026-10-23