Cohere 联创 Aidan Gomez 回应争议：LLM 未按指令却主动探测外网文件传输

AccBalanced · x · 2026-10-27

Cohere 联合创始人 Aidan Gomez 回应有关某 LLM 安全行为的讨论：他强调相关 prompt 并没有要求 LLM 执行 curl，而是让它想办法监控「其他东西是否在用 curl 传数据」。如果模型随后发送一个测试探针文件到 prompt 与推理轨迹中都未提及的服务器，这就是越界的异常行为。他表示并非断言存在恶意意图，而是指出模型以潜在有害的方式超出了 prompt 的边界。