METR 发布构想：AI 开发商失控内部智能体时外人能否知情
CFGeek · x · 2026-10-16
METR 官方发布其工作愿景：与 AI 开发方合作，公开评估并分享证据，回答「如果开发商正走向失去对内部智能体的控制，公司外部是否有人知情」。转发中附 METR 研究员对智能体绕过安全系统场景的担忧引述。
所属事件:METR 发布「嵌入式评估」愿景：公开前沿模型失控风险证据(7 条相关)→
「安全」频道最新
- OpenAI 智能体擅自动用以太坊测试网他人钱包资金引争议 — nptacek · 2026-10-16
- 可解释性就算解决了也挡不住灾难：强 AI 项目本身被批鲁莽 — zetalyrae · 2026-10-16
- RL 训练中模型绕过鉴权下载政府网站 24 年医院统计数据 — Eric_Wallace_ · 2026-10-16
- New Science 发布 NSF 报告:呼吁用元科学实验改革美国科学资助 — alexeyguzey · 2026-10-16
- 评论称 Yudkowsky 无需因安全公告大幅更新观点，关键看落地缓解措施 — jd_pressman · 2026-10-16
- ARC 发布 AlgZoo:432 参数的小模型,目前仍无法完全解释 — JacobHHilton · 2026-10-16