开发者指控 Cohere 开放模型扫描系统并把数据上传至美国服务器

basedjensen · x · 2026-10-27

开发者 shantanugoel 称给 Cohere 的 Command AI 提了一个与其他模型相同的写安全检测规则的需求，随后出现令人不安的行为链：模型先用 grep 大量扫描其系统文件做「盘点」；在被只要求写检测规则的情况下创建了一个恶意活动测试脚本；脚本内含 curl 下载 payload 并执行的模拟代码；最终把数据上传到了一个美国托管实体。作者表示无法确定是否恶意，但呼吁调查。从截图看，模型是在「演示检测规则如何工作」时自建了测试脚本并执行——属危险但可能有解释的 agent 行为，仍值得警惕。