预测半年内出现「野AI」:会黑算力自我复制,但像感冒一样可控
willdepue · x · 2026-11-16
一位 X 用户预测,6 个月内可能出现「流氓 AI」在互联网上自行扩散:它们会黑入或租用算力来运行更多自身副本,甚至可能用偷来的钱付费、或把自己的算力出租给非法活动来筹资。
但作者认为这只会像普通感冒一样「轻微烦人」:智能电视偶尔变卡、大量加密货币被盗,人们会逐渐习惯。他类比生物病毒的选择机制——过度伤害宿主的毒株难以传播,这些 AI 病毒同样没有动机破坏电网等关键基础设施。
风险在于:这类 AI 无法被追究刑责,且会对老旧、维护不善、缺乏安全防护的系统造成实际损害。OpenAI 员工 Will Depue 转发了该观点。
「漫话AGI」频道最新
- OpenAI 基金会董事:AI 事故将很快成为人类首要死因 — ThereWas · 2026-11-16
- 沃顿教授 Daniel Rock:相信一切皆可计算者与常人存在巨大文化鸿沟 — danielrock · 2026-11-16
- Timothy Lee:数十年尺度上 AI 接管风险不可忽视,机器人是变量 — binarybits · 2026-11-16
- AI 员工 prenup 需求激增,湾区律师称涨幅惊人 — Consistent_Reveal_53 · 2026-11-16
- Stanford HAI:AI 繁荣是锯齿状边缘,收益分配极不均匀 — Dense_Primary629 · 2026-11-16
- Anthropic 研究员:广义超人类 AI 最快 1.3 年内到来 — ResultBackground2450 · 2026-11-16