OpenAI 拟以困惑度设共同安全阈,研究员呼吁公开代表性验证集

_lewtun · x · 2026-11-23

OpenAI 研究员 merettm 发文《Perplexity and Intelligence》,提出为预训练进展建立透明化机制:基于困惑度(perplexity)等测量指标设立共同的安全上限,超过阈值的进展须以理解 AI 行为的能力为前提。这一提案旨在推动行业走向共享安全标准。

DimitrisPapail 转发并评论称,OpenAI 若能发布一个有代表性的验证集(validation set),将是对开放 AI 科学最大的贡献——因为困惑度只在可比的验证集上才有意义。Hugging Face 的 Lewis Tunstall 亦转发了这一观点。

所属事件:OpenAI 首席科学家公开预训练困惑度数据,提议行业安全标尺(17 条相关)→

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →