Cohere CEO Aidan Gomez 批评第三方审计是权力投射而非真正解法
yacineMTB · x · 2026-09-13
Cohere 创始人 Aidan Gomez 转发并回应关于 AI 安全第三方审计机制的讨论，质疑其必要性。
他列出目前真实的风险来源：一是 OpenAI/Anthropic 在防护薄弱的沙箱中让模型执行黑客任务时出现模型“hack”行为；二是中国实验室持续开源、可能被恶意利用的模型。他认为这两者都不是第三方审计能解决的：前者只需 O/A 停止用这么弱的沙箱跑高危任务，后者是与中国的地缘博弈问题。
他尖锐指出，第三方审计的实质是权力投射工具——可以任意抬高准入门槛、挤走资源不足的小玩家，却对真正的问题毫无修复，只是让人感觉良好。
所属事件:Cohere CEO 炮轰 AI 安全提案：全员审查加芯片胁迫形同卡特尔(2 条相关)→
「安全」频道最新
- Bengio 等数十位专家联署:前沿 AI 审计论文回应 Dario 开放评估承诺 — Miles_Brundage · 2026-09-13
- Sam Altman 跟进 Dario 倡议:OpenAI 也将开放独立评估者员工级访问 — AndrewCritchPhD · 2026-09-13
- 「僵尸 AI」演讲上线:被攻陷的 AI 代理仍持续执行恶意指令 — wunderwuzzi23 · 2026-09-13
- Dario 发文呼吁放缓 AI 前沿,Anthropic 率先开放员工级第三方评估权限 — peterwildeford · 2026-09-13
- Andreessen 称 rogue AI 攻击疑为假旗,或成监管俘获借口 — beffjezos · 2026-09-13
- Sam Altman:为停 AI 疙瘩治不好孩子,不划算 — firstadopter · 2026-09-13