OpenAI 公开五年预训练困惑度数据,呼吁建立共享安全基线
markchen90 · x · 2026-11-23
- OpenAI 研究员 markchen90 与 @merettm 联合发文,指出各前沿实验室各自撰写 safety cases、自设护栏,导致 AI 竞赛难以避免「逐底竞争」,呼吁行业在共同限制和共享安全案例下运行。
- 核心障碍是缺乏一个随模型进步仍然有效、面向未来的 AI 进步标尺。他们提议以 perplexity(困惑度) 为候选指标,并率先公开了 OpenAI 过去五年的预训练困惑度结果。
- 作者坦言这一步很难迈:这些数字长期被视为敏感知识产权。他们也承认需要第三方评估者在相同数据集上测量的工作,但希望借此推动「共享关键指标」的行业规范,为共同安全案例打基础。
- 引用的原帖来自 merettm 的文章《Perplexity and Intelligence》:主张基于困惑度等测量设定共同上限,超越上限的进展应以理解 AI 行为的能力为门槛。
所属事件:OpenAI 公开预训练困惑度数据,倡议行业共设安全上限(36 条相关)→
「漫话AGI」频道最新
- 坚持不用 AI 写作的少数派:预判 LLM 将陷入互相训练的回音室 — TuhinChakr · 2026-11-23
- 苹果高管 Appenz:Agent 潮流正在填平 NVIDIA 的 CUDA 护城河 — appenz · 2026-11-23
- AI 会重新定义「智能」吗:从背书到 know-how 再到什么 — alexbilz · 2026-11-23
- 按 METR 数据外推:新模型任务时长可达 66 与 128 小时 — eliebakouch · 2026-11-23
- Uber 四个月烧光年度 AI 预算,体验却没变好 — yaroslavvb · 2026-11-23
- 争议:后训练算力已超 75%,用预训练 perplexity 定安全上限站不住 — stochasticchasm · 2026-11-23