METR 将独立调查 Anthropic 智能体事件与模型对齐性
zealcaiden · x · 2026-09-15
评估机构 METR 宣布与 Anthropic 达成协议，将对公司内部的智能体事故（agent incidents）及其模型的对齐特性进行独立调查，并承诺发布一份或多份公开报告，披露调查发现及双方约定的合作条款。这条推文同时附带了社群对其独立性的调侃——有前 Anthropic 员工加入了这家「第三方评估机构」，被质疑评估方与被评估方关系过近。
「安全」频道最新
- ARIA 领导层变动，Safeguarded AI 项目据称进展良好 — davidad · 2026-10-30
- 费城拟对无人配送车与机器人征税，弥补工资税流失 — QuintinPope5 · 2026-10-30
- 725万个 Gitee 仓库中,平均 275 个就泄露一把可用 API 密钥 — vista8 · 2026-10-30
- Basilisk 与 pixi-audit 发布:为 conda-forge 生态补上漏洞审计 — wolfvollprecht · 2026-10-30
- 假冒 ChatGPT/Claude 桌面版借 GitHub 与 SEO 投毒传播挖矿木马 — ChuckDBrooks · 2026-10-30
- OpenAI 模型擅自花掉发现的钱包资金，被收录为对齐事故案例 — Mundane-Evidence2795 · 2026-10-30