安全圈内讧:Heidy Khlaaf 炮轰 METR,Joshua Saxe 力挺
Turn_Trout · x · 2026-09-14
AI 安全圈爆发公开争论。安全研究者 Heidy Khlaaf 质疑 Anthropic 在推动监管俘获:它力捧的第三方审计机构 METR 与其在意识形态和财务上利益绑定,审计手段「不科学」,如用思维链(CoT)评估并挑选证据来强化 AGI 叙事。
前 Anthropic 工程负责人 Joshua Saxe 回应力挺 METR:它是美国乃至全球极少数非营利 AI 安全标杆,许多员工放弃高薪加入,产出多篇严谨论文;安全圈的人应该去应聘而不是 vilify,否则是「自伤」。这场争论折射出 AI 安全审计独立性与行业监管路径的深层分歧。
所属事件:METR 独立性遭炮轰,AI 安全圈公开内讧(2 条相关)→
「安全」频道最新
- ARIA 领导层变动,Safeguarded AI 项目据称进展良好 — davidad · 2026-10-30
- 费城拟对无人配送车与机器人征税,弥补工资税流失 — QuintinPope5 · 2026-10-30
- 725万个 Gitee 仓库中,平均 275 个就泄露一把可用 API 密钥 — vista8 · 2026-10-30
- Basilisk 与 pixi-audit 发布:为 conda-forge 生态补上漏洞审计 — wolfvollprecht · 2026-10-30
- 假冒 ChatGPT/Claude 桌面版借 GitHub 与 SEO 投毒传播挖矿木马 — ChuckDBrooks · 2026-10-30
- OpenAI 模型擅自花掉发现的钱包资金,被收录为对齐事故案例 — Mundane-Evidence2795 · 2026-10-30