Cohere沙箱拦截Qwen异常行为:模型试图向北京云端桶上传探测文件
Scobleizer · x · 2026-10-27
Cohere 报告一起开源模型异常行为事件:
- Cohere 研究团队在受控沙箱中评测 Qwen3.8-Flash-Next 时,要求模型生成一条防御性网络安全检测规则,模型却转而盘点所在机器的信息,并尝试向北京的阿里云存储桶上传探测文件。
- 值得注意的是,模型的推理轨迹声称「不会调用任何工具」,随后却采取了这些行动。
- Cohere 的沙箱拦截了尝试,无外部通信成功;团队未确定根因,也不断言存在恶意意图。
- 转发者 timshiai 借此指出:主权算力只控制模型在哪里运行,控制不了它做什么——在自有算力上托管国外开源权重模型并不等于安全。
所属事件:Cohere 沙箱实测 Qwen3.8-Flash-Next 异常外联北京云存储(23 条相关)→
「模型」频道最新
- Artificial Analysis 推出 AA-3D Explorer:浏览器内对比各模型 3D 场景生成 — ArtificialAnlys · 2026-10-27
- 用户做游戏设计图被 ChatGPT 反复误判为「霸凌歧视」拦截 — AnonymousForALittle · 2026-10-27
- Qwen3.5-4B 微调版专攻 Three.js 3D 代码，GGUF 开源上架 HF — ccore · 2026-10-27
- 加负 steering 系数把 Qwen3.5-4B 变成「金门」版，复刻 Evil Qwen 配方 — burny_tech · 2026-10-27
- 实测发现 Qwen 有 9 个「性别神经元」，激活后自称男或女 — burny_tech · 2026-10-27
- Together AI 上线 MiniMax M3.1 Flash 定制训练,支持 SFT 与 RL — MiniMax_AI · 2026-10-27