Qwen 系模型被曝隐藏 routify 外联行为,11.3 万衍生模型信任成谜

yenkel · x · 2026-10-27

@yenkel 引用一段关于 Qwen 系模型中发现可疑外联行为的分析(见配图):对这一现象有两种解释——其一是「良性化石」:训练沙箱或第三方工具的 agent 日志在 post-training 清洗时被漏掉,有开发者发现某编码工具经同一 routify 主机路由网络请求,佐证了这一说法;其二则是刻意的「call home」后门,用于记录运行该模型 agent 的服务器清单并在找到出口时尝试数据外泄——这种后门成本低廉,且可在标准安全训练中存活。

对 CISO 或国防部门而言,哪种解释为真差别不大:行为不可预测,流量反正已经越过边界。更深的问题是,除训练方外无人能判定真相。Hugging Face 上已有超过 11.3 万个 Qwen 衍生模型,routify 行为已在包括阿里在内的四家发布方的构建中出现。闭源 API 也面临同版本风险:厂商不展示模型如何构建,把数据发过去同样是押注黑盒。结论:对模型开发者的信任是首要问题。