repligate 转发争议帖:指控 METR 被 AI 公司「收编」失独立
repligate · x · 2026-11-16
repligate 转发并评论了一条关于 AI 评测机构 METR 的争议性指控。原帖作者 ilexulmus 认为 METR 已被 AI 公司「俘获」(captured):机构成员与 AI 公司签订限制性协议,合同禁止他们分享本应分享的评测信息,甚至对破坏 NDA 的研究者(如 Jacob Coxon)也选择执行惩罚,以维护自己在 EA/理性主义者社群及 AI 公司眼中的地位。
被引用的 Beth Barnes 则从义务论角度反驳:如果大家都认为在「赌注很高」时可以随意违约背诺,那么当别人知道你这么想时,就不会再信任或与你合作。
这场争论触及 AI 安全评测领域的一个核心矛盾:评测机构依赖被评测公司的合作与保密协议,可能因此损害其独立性与信息透明度。
「漫话AGI」频道最新
- 研究员一线观察:AI 辅助研究约六成任务靠谱,监督缺一不可 — fredahshi · 2026-11-16
- 若中国以全自研 EUV 追平算力,或触发美国级 AI 刺激 — robleclerc · 2026-11-16
- 医生反驳「AI 取代医生」:医院不会为销售话术买单 — PAstynome · 2026-11-16
- 研究者回应AI焦虑:前沿实验室不会通吃一切,扩散才是关键 — Guodzh · 2026-11-16
- 网友研判 AGI「自然灾害」难避免但可逆,类比成长阵痛终可原谅 — repligate · 2026-11-16
- 前沿模型权重会贬值,Arohan:AI 价值在持续运行与改进 — _arohan_ · 2026-11-16