Will Depue 主张危险 AI 评测只给分级、不公开数字
willdepue · x · 2026-07-26
Will Depue 认为，危险能力评测最好不要公开具体数值，而应只给出低/中/高这类粗粒度结果。
他的核心担忧是：一旦评测指标公开，就会形成“数字越高越好”的优化文化，反而更容易被针对性刷分。被引用的回复进一步把这件事类比为“增益功能研究”——意思是，公开评测会让危险能力更容易被测量、比较和推进。
所属事件:马斯克及AI安全专家呼吁停止公开危险能力评测(6 条相关)→
「安全」频道最新
- Anthropic 撤回会「暗中限制」Claude 协助竞品研究的条款 — Bedrovelsen · 2026-10-27
- Anthropic 公布第三方评估优先级：安全案例与独立调查 — kaicathyc · 2026-10-27
- 开源 Cloakroom：在模型看到之前 masking 掉 .env 里的密钥与隐私 — Shanjeev · 2026-10-27
- Topol 团队新论文警示:临床 AI 的人类监督可能只是幻觉 — EricTopol · 2026-10-27
- 澳网络局年报：AI 武装攻击者升级，民众需适应服务中断 — nordicinst · 2026-10-27
- Muse Spark 1.3 系统卡将 PostTrainBench 列入灾难性风险失控类评测 — maksym_andr · 2026-10-27