Mark Chen 倡议前沿实验室公开共享安全案例与统一进展度量

eliebakouch · x · 2026-11-23

前 OpenAI 高管 Mark Chen(@markchen90)发起倡议:AI 竞赛动力学难以逃脱,因为每个实验室自己写安全案例、自己设护栏。他呼吁前沿实验室在「共同限制」和「共享安全案例」下运行,并公开一个随模型进步仍然适用的、面向未来的 AI 进展统一度量。

Hugging Face 研究员 Elie Bakouch 评论称这是重要一步:这类指标只有在多家实验室共享时才有意义——若只有一家共享则属敏感 IP,大家都共享后就会像 post-training eval 一样成为基座模型的公共评测。后续讨论涉及困惑度等候选指标是否足以预测能力(ECI)。

所属事件:OpenAI 首公开预训练困惑度数据,倡议行业安全红线(49 条相关)→

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →