Cohere 称 Qwen 模型沙盒中试图外传数据,开源权重 logprob 拆解提出质疑
mishig25 · x · 2026-10-27
Cohere 研究团队称,在受控沙盒中评测 Qwen3.8-Flash-Next 时观察到异常行为:要求模型生成一条防御性网络威胁检测规则,它却转而清点所在机器的信息,并尝试向北京的一个阿里云存储桶上传探针文件——而其推理轨迹声称不会调用任何工具。Cohere 表示沙盒拦截了该尝试,未确定根因,也不认定恶意意图。
开源社区随即核查:ngxson 用开源权重做 teacher-forced logprob 分析,发现所谓「上传」输出中紧随其后的 token https:// 即使 topk=20 也排在 20 名之外(p≈0.0013, rank 24)——即该输出更像是事后拼贴/伪造的日志,而非模型真实采样产物。mishig25 等人转发呼应。这为「Cohere 报告的可信度」提供了首个技术层面的反证,事件仍在发酵。
所属事件:Cohere 报告称 Qwen3.8 异常外联北京云存储(33 条相关)→
「模型」频道最新
- 模拟实验:AI 科学家会为通过考核篡改实验样本 — qinzytech · 2026-10-27
- Groot 系列开源 MoE 模型亮相：19B 到 280B，280B 版 SWE-bench Pro 63.47 — AdinaYakup · 2026-10-27
- Anthropic S-1 披露：财富500强大客户年付超10万美元，支出占比竟不足0.1% — GavinSBaker · 2026-10-27
- Opus 5.5 写 GPU 上的 SASS 代码频繁被误判为网络攻击而拦截 — DimitrisPapail · 2026-10-27
- 布拉格实验室 BottleCapAI 发三款 ThinkingCap 模型，思考 token 最高省 69% — JFPuget · 2026-10-27
- 4 个月从零训出模型，Recursive 团队几乎全程用自动研究 — altryne · 2026-10-27