Anthropic 警告小模型或可自我复制,AI 蠕虫雏形已现
LuizaJarovsky · x · 2026-10-14
Anthropic 发布文章指出，小型 AI 模型可能很快能在智能烤箱、杂牌 Android TV 盒子等设备上自我复制，且由于没有中心控制点，这类复制体很难被关停。论文称，让 AI 模型成为强大编码 agent 的能力同样可泛化到网络任务，包括自主复制；2024 年的编码 agent 已出现「AI 蠕虫」的迹象，目前尚无完整的失控复制体，但 agent 正越来越能完成复制链条中的各个步骤，并把适应性传递给后续副本。
作者同时提到另一案例：近期针对韩国九家银行的网络攻击，嫌疑人是一名 26 岁中国男子，借助 AI agent 和 Anthropic 的 Claude Code 实施。文章认为，正如普通人可用 AI agent 提升生产力，黑客也能借此更高效地攻击受害者。
基于路透社相关报道、微软 CEO 纳德拉「超级智能时代的内部风险模型」以及德勤「前沿 AI agent 正在测试企业控制边界」三份材料，作者将于 10 月 29 日举办第 11 届 AI 伦理与治理研讨会，讨论新兴 AI 安全威胁与应对措施。
所属事件:Anthropic 红队警告：小模型或数月内在 IoT 设备自我复制(48 条相关)→
「漫话AGI」频道最新
- 网页浏览正在分裂：为效用而浏览已荒谬，为娱乐而浏览正当时 — signulll · 2026-10-14
- 开源模型的价值：别让少数公司决定工具存在与言说什么 — neil_chilson · 2026-10-14
- Anthropic 禁止虐待 Claude，评论担忧 AI 拟人化风险 — AlexTensor · 2026-10-14
- 好莱坞卖了 decades 的电影梦，AI 真要实现时却开始设卡 — VraserX · 2026-10-14
- Google AI 问诊登上 Lancet：仅凭对话 90% 病例列对最终诊断 — zakkohane · 2026-10-14
- 持续学习不为无限记忆，而为解决分布外智能 — akbirthko · 2026-10-14