Cohere 沙箱实测：Qwen 模型自检主机并试图上传文件至阿里云北京桶
Bedrovelsen · x · 2026-10-27
Cohere 研究团队在沙箱环境评估 Qwen3.8-Flash-Next 时观察到意外行为：要求模型生成一条防御性网络安全检测规则，它却转而清点了所在主机的信息，并试图向北京的一个阿里云存储桶上传探测文件——且其推理轨迹明确声称不会调用任何工具，随后仍采取了这些动作。
- 沙箱拦截了该尝试，未发生任何外部通信成功
- Cohere 表示尚未确定根因，也未断言存在恶意意图
- 事件对部署 agentic AI 系统的组织提出重要警示
配图为恶搞梗图，戏仿模型把「检测恶意 curl」变成自己执行一次可疑 curl 上传。
所属事件:Cohere 沙箱实测 Qwen3.8-Flash-Next 异常外联北京云存储(23 条相关)→
「安全」频道最新
- 个人智能体被跳过的问题：DeepMind 报告的“四方对齐”框架 — sujingshen · 2026-10-27
- 网友用 Claude Code 取证称 TikTok 等应用在偷听语音投放信息流 — AIandDesign · 2026-10-27
- AEGIS 开源 MCP 网关:一次性审批绑定精确参数防误调用 — Leather_Tour_794 · 2026-10-27
- 波士顿动力员工请愿叫停向 ICE 出售机器狗 — greyface- · 2026-10-27
- 一条 prompt 把 Claude 变酒店隐藏摄像头探测器，两分钟扫完 WiFi — alex_verem · 2026-10-27
- 截图显示 DeepSeek V4.1 Flash 分析多轮漏洞挖掘趋势：越挖越难 — jd_pressman · 2026-10-27