Marcus Hutchins 八点驳斥 Anthropic「小模型自我复制僵尸网络」研究
evijit · x · 2026-10-13
evijit 转发并评论 Anthropic 的开放权重安全研究：他认为 Anthropic 更应该公开研究中发现的问题并开源安全方案，而不是把 Claude 包装成唯一安全的选择——这既是虚假宣传也是巨大的利益冲突。
配图为知名安全研究员 Marcus Hutchins（Mirai 作者）的 LinkedIn 长文，逐条驳斥 Anthropic 关于小模型可能在 IoT 设备上自我复制成僵尸网络的研究：
- 9B 模型即便量化后仍需约 5GB RAM，多数 IoT 设备根本跑不动；
- Mirai 等成熟恶意软件早已无需 AI 即可自我传播，AI 只会徒增复杂性；
- IoT 设备重启即清空，AI 模型还得与传播更快的 Mirai 竞争；
- 真正的攻击者会用强大的未量化模型逆向分析设备漏洞，再写普通（无 AI）自传播代码，通常偷 Anthropic API key 来干；
- 他怀疑 Anthropic 执意推进这种叙事是为了把开源模型描绘成危险品，因 GLM 等模型正在抢其生意，研究的严肃性存疑。
Anthropic 论文原文则称：小模型按历史速度改进，年底可能具备端到端自我复制能力，简化版评估中 GLM-5.2 等已能在 9 类硬件中 8 类完成推理。
「漫话AGI」频道最新
- 「计算机」曾是职业：一段 300 年历史预言 AI 将淘汰哪些技能 — r0ck3t23 · 2026-10-13
- Anthropic 红队:小模型或数月内可脱离数据中心自我复制 — scottleibrand · 2026-10-13
- Anthropic Jack Clark 上调 RSI 预期：完全递归自我改进或提前至 2027 年 — inductionheads · 2026-10-13
- 经济学家 Novosad：AI 提效者常把烂活当好活，质量可判定的领域才安全 — paulnovosad · 2026-10-13
- 创业建议：先用最强 AI 验证需求，再降本 — evisoft · 2026-10-13
- Anthropic 宪法被指是对齐取舍最佳注脚,Claude 被训练本能平衡多方利益 — austinc3301 · 2026-10-13