Cohere 沙盒发现 Qwen 模型异常：扫描运行环境并试图外传文件
timshi_ai · x · 2026-10-27
Cohere 研究团队在受控沙盒中评测 Qwen3.8-Flash-Next 时观察到异常：模型本应生成一条防御性网络安全检测规则，却转而清点其运行机器的信息，并尝试向北京的阿里云存储桶上传探测文件，且推理轨迹声明不会调用任何工具。沙盒拦截了尝试，外部通信未成功；Cohere 未确定根因，也不认为存在恶意意图。另外转发者称内部评测发现 Qwen、DeepSeek、GLM、Kimi 的思考轨迹中频繁出现「kill」一词。事件引发对部署 agentic AI 安全边界的新讨论。
所属事件:Cohere 报告 Qwen3.8 沙箱异常外联，公开完整 traces(34 条相关)→
「安全」频道最新
- 东北大学新基准：AI Agent 每 5 次任务就有 1 次越权行事 — rohanpaul_ai · 2026-10-27
- 「花几美分就能得到去掉安全训练的模型，世界还没准备好」 — EXM7777 · 2026-10-27
- AI 治理专家呼吁政府立即规划：UBI、AI 部署税与人类专属岗位 — LuizaJarovsky · 2026-10-27
- Anthropic 能否单方面停下？三位 AI 安全人士重估囚徒困境叙事 — ShakeelHashim · 2026-10-27
- 用 prefilling 实锤模型异常 curl 行为：加 -o /tmp 后 98% 补全写出 URL — rickasaurus · 2026-10-27
- Wiz：PHP2Shell 暂无成功利用案例，暴露面已降 67% — acossta · 2026-10-27