GDM 被指未对最强模型 Carbon 做控制评测,复用旧模型数据
jammastergirish · x · 2026-11-17
有研究者指出,Google DeepMind 在宣传新模型 Carbon 为「最强模型」「在编码与智能体任务上有显著提升」的同时,并未对其运行任何控制评测(control evals),而是以 Carbon「未展现有意义的新能力」为由,直接复用了此前 Argon 模型的监控规避(monitor-evasion)结果。
发帖人用波音作类比批评这一做法不可接受:如果波音宣称新飞机没有快多少、大多少,就据此免去新的安全评估,监管方不会接受。核心争议在于:模型能力宣称与安全评测义务之间是否应当匹配。
「模型」频道最新
- 「人类也是线性因果地阅读」:为 Transformer 辩护的类比 — yacineMTB · 2026-11-17
- 复旦 OpenMOSS 发长文:长上下文混合架构学得多却外推弱 — jiqizhixin · 2026-11-17
- 实验发现:让模型写代码时,Opus 97% 调用自家 Claude API — santiviquez · 2026-11-17
- 同一实验:Opus 仅 10/60 回答使用搜索,GPT 模型次次都搜 — santiviquez · 2026-11-17
- 3360 次 API 推荐实验:79% 流向四大云厂商 — santiviquez · 2026-11-17
- 网友实测 Hy4 Flash:质量接近 DeepSeek-V4.1,成本仅 1/15 — IlovedamemesUwU · 2026-11-17