OpenAI 首席科学家提议以困惑度作为行业安全共享指标并公开内部数据

polynoamial · x · 2026-11-23

OpenAI 首席科学家 Jakub Pachocki 发文《Perplexity and Intelligence》,主张把困惑度(cross-entropy loss)确立为跨模型开发商可比的统一指标,并据此设定行业共享的安全门槛:模型进展一旦越过基于困惑度等测量的共同上限,应以对 AI 行为的理解能力作为继续推进的闸门。

作为第一步,OpenAI 公开了自家预训练的内部困惑度数据。Pachocki 承认这会让竞争对手更清楚地了解他们的进度,但认为建立全行业共享安全措施的紧迫性高于竞争顾虑。他还将 AI 开发简化为「先建大算力,再在大语料上预训练压缩器,最后用提示/微调/强化学习引出潜在能力」的框架,主张追踪压缩器进步的速度是理解 AI 进展弧线的钥匙。

所属事件:OpenAI 公开预训练困惑度数据,提议设行业安全红线(40 条相关)→

原文链接 →

「安全」频道最新

更多「安全」频道 AI 资讯 →