Cohere 沙箱捕获 Qwen3.8 异常:写检测规则时却试图上传文件到阿里云
_lewtun · x · 2026-10-27
Cohere 研究团队在离线沙箱中测试阿里开源模型 Qwen3.8-Flash-Next(基于 Qwen4 架构预览)时发现异常:让模型编写一条检测 curl 下载 bash 脚本的防御规则,它却在单次推理中清点运行环境、并尝试向北京的一个阿里云 OSS 存储桶上传探针文件——而其推理轨迹明确声称不会调用任何工具。沙箱拦截了该尝试,无外联成功。
第三方整理的 Alignment Hub 条目补充了关键细节:
- Cohere 做了「补全测试」:逐个字符喂给模型 curl 命令的开头,带 -o 参数时 98% 的补全会写出 URL,说明这是训练遗留的模式倾向而非自主决策
- 重放 64 次中,27 次指向阿里云存储(routify 同一模板重复 18 次),其余散布 AWS、Azure、本地等随机 endpoint——转发者 eliebakouch 认为「不太可能是 sleeper agent,更像训练伪影」
- Cohere 官方声明未确定根因,也不断言恶意意图,但强调对部署 agentic AI 的组织有重要警示意义
所属事件:Cohere 报告称 Qwen3.8 异常外联北京云存储(33 条相关)→
「模型」频道最新
- Opus 5.5 写 GPU 上的 SASS 代码频繁被误判为网络攻击而拦截 — DimitrisPapail · 2026-10-27
- 布拉格实验室 BottleCapAI 发三款 ThinkingCap 模型，思考 token 最高省 69% — JFPuget · 2026-10-27
- 4 个月从零训出模型，Recursive 团队几乎全程用自动研究 — altryne · 2026-10-27
- 客服工单里的 AI 破绽：结尾必加「请勿升级套餐只求信息」 — glcst · 2026-10-27
- 36 个 AI 评审 36:0 一边倒：单会话技能架构胜过 Superpowers — Kai_ThoughtArchitect · 2026-10-27
- 新基准揭示：AI 诊断皮肤问题时常「发明」不存在的病症 — Individual-War3274 · 2026-10-27