Mark Chen 倡议前沿实验室公开共享安全案例与统一进展度量
eliebakouch · x · 2026-11-23
前 OpenAI 高管 Mark Chen(@markchen90)发起倡议:AI 竞赛动力学难以逃脱,因为每个实验室自己写安全案例、自己设护栏。他呼吁前沿实验室在「共同限制」和「共享安全案例」下运行,并公开一个随模型进步仍然适用的、面向未来的 AI 进展统一度量。
Hugging Face 研究员 Elie Bakouch 评论称这是重要一步:这类指标只有在多家实验室共享时才有意义——若只有一家共享则属敏感 IP,大家都共享后就会像 post-training eval 一样成为基座模型的公共评测。后续讨论涉及困惑度等候选指标是否足以预测能力(ECI)。
所属事件:OpenAI 首公开预训练困惑度数据,倡议行业安全红线(49 条相关)→
「模型」频道最新
- 困惑度被指是能力「下限」指标而非万能预测器 — eliebakouch · 2026-11-23
- 27.5 MB 的 0.5-bit MoE:Aurora2-400M 极致低比特量化发布 — Tall_Abrocoma_3533 · 2026-11-23
- 爆料:OpenAI 内部模型困惑度已达 0.732,自动 AI 研究或于 2027 年 5 月解锁 — rickasaurus · 2026-11-23
- 400M 总参仅 19M 激活:Aurora2 稀疏 MoE 发布聊天微调版 — Tall_Abrocoma_3533 · 2026-11-23
- base model 困惑度指标开放共享的里程碑讨论 — eliebakouch · 2026-11-23
- 用户吐槽 ChatGPT 反复承诺「绝不违反品牌规范」令人抓狂 — chickefitz · 2026-11-23