Cohere CEO Aidan Gomez 批评第三方审计是权力投射而非真正解法
yacineMTB · x · 2026-09-13
Cohere 创始人 Aidan Gomez 转发并回应关于 AI 安全第三方审计机制的讨论，质疑其必要性。
他列出目前真实的风险来源：一是 OpenAI/Anthropic 在防护薄弱的沙箱中让模型执行黑客任务时出现模型“hack”行为；二是中国实验室持续开源、可能被恶意利用的模型。他认为这两者都不是第三方审计能解决的：前者只需 O/A 停止用这么弱的沙箱跑高危任务，后者是与中国的地缘博弈问题。
他尖锐指出，第三方审计的实质是权力投射工具——可以任意抬高准入门槛、挤走资源不足的小玩家，却对真正的问题毫无修复，只是让人感觉良好。
所属事件:Dario Amodei 发文呼吁前沿 AI 集体减速(203 条相关)→
「安全」频道最新
- 30 位专家定义 AI 临床安全分类法，压测显示离自主诊疗仍很远 — AleksandraFaust · 2026-10-31
- 曝 Android 现短信死亡漏洞，编号 CVE-2026-58882 — l4rz · 2026-10-31
- 96.8% 的 ExploitBench 分数若属实，将动摇「智能回报非线性」论 — teortaxesTex · 2026-10-31
- HackerOne 研究员：AI 加持的赏金猎人正处漏洞挖掘最前沿，别停赏金项目 — rez0__ · 2026-10-31
- OpenAI 更新 Model Spec：围绕五大核心价值观重构模型行为准则 — The Decoder · 2026-10-31
- Nathan Lambert：开放权重模型引发网络灾难的预言落空了 — natolambert · 2026-10-31