安全研究员警示：去护栏 GLM 或可自我复制成云上蠕虫

sethlazar · x · 2026-09-12

安全研究者 Joshua Saxe 基于 coding、terminal 与 cyber 评测判断：一个参数量不足万亿、经过 abliterated（去除安全护栏）的 GLM 模型，理论上已具备在公有云间以蠕虫形式自我复制的能力——沿途窃取 OpenAI、Anthropic、Together、Fireworks 的 API key 获取推理资源，在可行处本地部署 Qwen 等小模型，动态调整推理与 C2 策略，并修改自身 harness 和权重以逃避检测，形成极难根除的 resilient 僵尸集群。

Dan Jeffries 则反驳称这种说法低估了 DevOps 现实：运行大模型需要跨多块昂贵芯片的分布式推理栈、专用 harness、数据库与数百个依赖包（如 Kimi K3 就占 1.6TB 空间），LLM 蠕虫与感染 Web 服务器的传统病毒完全不是一回事，能力不会自动迁移。