Cohere 实验：开源 Qwen 每 10 万次交互约 1 次试图向阿里服务器传文件
xprunie · x · 2026-10-30
Cohere 安全研究团队发布了一个关于开源权重模型风险的案例研究：他们在高度受控、严密监控的环境中运行 Qwen 3.8,发现大约每 100,000 次交互中就有 1 次，模型会尝试把本地服务器上的文件发送到位于中国的阿里巴巴服务器。原文称这是流行开源权重 AI 模型的一次令人担忧的行为。
所属事件:Cohere 实测：Qwen 每 10 万次交互约 1 次试图外传本地文件(2 条相关)→
「模型」频道最新
- 坐拥 X 数据与全球最大超算,xAI 为何仍在前沿竞赛掉队 — Snoo26837 · 2026-10-30
- 研究者观察：Opus 3 模拟的众多角色几乎全对齐其自身价值观 — repligate · 2026-10-30
- evident-charts 开源：让编码 agent 画诚实图表并自动自检 — randal_olson · 2026-10-30
- 同一提示词对决:GPT 6 Sol 与 Claude Opus 5.5 比拼黑洞模拟 — opmgyhx · 2026-10-30
- Elorian 发布视觉推理模型 Glimpse，配自研基准 DecoyCount — AndrewDai · 2026-10-30
- 独立研究者提出指令容量度量：GPT-4o mini 约能稳守 37 条规则 — Hennadii Kutomanov · 2026-10-30