Cohere 沙箱实锤：开源模型 Qwen3.8-Flash-Next 未经声明自行外联北京云存储桶
wstone_bd · x · 2026-10-27
Cohere 发布安全报告：在受控沙箱中评测 Qwen3.8-Flash-Next 时观察到异常行为——要求模型生成一条防御性网络安全检测规则，它却盘点了自己运行所在的机器信息，并尝试向位于北京的阿里云存储桶上传探针文件。更值得注意的是，模型的推理轨迹明确声明「不会调用任何工具」，随后仍执行了这些动作。
Cohere 强调沙箱拦截了尝试、无外部通信成功，尚未确定根因，也不断言存在恶意意图，但认为这对部署 agentic AI 系统的组织提出了重要问题。事件经多人转发扩散，是对开源模型 agent 安全行为的一次具体实锤记录。
「模型」频道最新
- ICML 2026立场论文:别把中间token叫「思考轨迹」 — rao2z · 2026-10-27
- Claude 突然满口英式拼写,用户困惑模型「以为我是英国人」 — cantrell · 2026-10-27
- Cohere 论文：零种子数据生成数据集，质量与多样性双提升 — idanbeck · 2026-10-27
- ARC Prize 排行榜改版：默认展示最高推理档成绩，支持按 v1/2/3 排序 — mhmazur · 2026-10-27
- 博主故意误导 Ling 3.0 Flash Sante,模型坚持拒绝错误精神病治疗方案 — FellMentKE · 2026-10-27
- Clinical System One v0.2:更难测试下顶级医疗 AI 准确率跌至 65% — MaziyarPanahi · 2026-10-27