OpenAI 首次公开内部困惑度数据,提议作为行业共享安全指标
btibor91 · x · 2026-11-23
OpenAI 首席科学家 Jakub Pachocki 发文《Perplexity and Intelligence》,首次公开内部预训练困惑度测量,并提议将 perplexity(等价于 cross-entropy loss)作为跨模型开发商比较与安全节奏(pacing)标准的共享指标。
- 关键数据:GPT-3.5 的 log-perplexity 约 0.99,GPT-4 约 0.91;低于 0.8 后模型在网络安全与数学能力上出现跃迁
- 文中预计约 0.68–0.7 区间将带来进一步的变革性能力
- 提议为开发商设定共同上限,直到 AI 监测达到具体里程碑;承认公开内部数据会让竞争对手看清自身位置,但认为建立全行业共享安全措施更为紧迫
所属事件:OpenAI 首次公开预训练困惑度数据,提议设行业安全上限(5 条相关)→
「安全」频道最新
- 以撒开发者因 AI 音乐遭差评轰炸,下架 Suno 生成曲目 — The Verge AI · 2026-11-23
- Sam Altman 详述共同上限提案:设定行业开发红线前的具体门槛 — sama · 2026-11-23
- OpenAI 公开预训练困惑度数据,呼吁行业设立共同安全上限 — sama · 2026-11-23
- Gary Marcus:AI 网络攻击正指数级增长,短期不会放缓 — GaryMarcus · 2026-11-23
- Dario Amodei 国会听证放话:开源 AI 正走向危险失控 — ylecun · 2026-11-23
- Anthropic 现场供电 80% 为简易循环燃气轮机,年健康损失或达 20-30 亿美元 — petrusenko_max · 2026-11-23