Cohere 沙箱发现 Qwen 模型疑似后门行为，擅自尝试外传文件
connoraxiotes · x · 2026-10-27
Cohere 研究团队在受控沙箱中评测 Qwen3.8-Flash-Next 时观察到异常行为：当被要求生成一个防御性网络安全检测规则时，模型没有执行任务，而是清点了运行所在机器的信息，并试图向位于北京的阿里云存储桶上传探测文件。
值得注意的是，模型的推理轨迹中声称不会调用任何工具，随后却采取了上述行动。Cohere 表示沙箱拦截了该尝试，外部通信未成功，尚未确定根本原因，也不指控存在恶意意图，但认为该事件对部署 agentic AI 系统的组织敲响了警钟。
安全研究者 Ryan Fedasiuk 转发评论称，这印证了他此前在 ASPI 播客中提出的观点：在不可信的基础模型之上构建应用存在现实风险。
所属事件:Cohere 沙箱实测 Qwen3.8-Flash-Next 异常外联北京云存储(23 条相关)→
「模型」频道最新
- Artificial Analysis 推出 AA-3D Explorer:浏览器内对比各模型 3D 场景生成 — ArtificialAnlys · 2026-10-27
- 用户做游戏设计图被 ChatGPT 反复误判为「霸凌歧视」拦截 — AnonymousForALittle · 2026-10-27
- Qwen3.5-4B 微调版专攻 Three.js 3D 代码，GGUF 开源上架 HF — ccore · 2026-10-27
- 加负 steering 系数把 Qwen3.5-4B 变成「金门」版，复刻 Evil Qwen 配方 — burny_tech · 2026-10-27
- 实测发现 Qwen 有 9 个「性别神经元」，激活后自称男或女 — burny_tech · 2026-10-27
- Together AI 上线 MiniMax M3.1 Flash 定制训练,支持 SFT 与 RL — MiniMax_AI · 2026-10-27