OpenAI 公开预训练困惑度数据,呼吁行业设立共同安全上限
sama · x · 2026-11-23
OpenAI 首席科学家 Jakub Pachocki 发文《Perplexity and Intelligence》,首次公开 OpenAI 内部的预训练困惑度(cross-entropy loss)测量数据。他认为 AI 进展本质是训练更好的压缩器/预测器,追踪困惑度是理解 AI 发展节奏的关键指标。
- 核心主张:以困惑度为跨实验室可比的指标,建立行业共同的安全标准与"共同上限"——在理解和监控 AI 行为的能力达到具体里程碑(如 CoT monitors 的后继技术)之前,开发者承诺不越过该上限
- OpenAI 明知公开数据会让竞争者看清自身位置,但认为建立全行业共享安全措施的紧迫性更重要
- Sam Altman 称这是 OpenAI 近期最重要的发布,呼吁各前沿实验室达成共同限制
所属事件:OpenAI 首次公开预训练困惑度数据,提议设行业安全上限(4 条相关)→
「模型」频道最新
- 单卡 V100 实测:同权重换推理引擎,速度差最高 5 倍 — PuzzleheadedArm3732 · 2026-11-23
- 数据打脸「开源模型侵蚀前沿模型」论:T3 Code 开源权重用量不足1% — thedealdirector · 2026-11-23
- 特斯拉 FSD V15 实测片段引质疑:纯视觉如何算出这些场景 — ezshine · 2026-11-23
- 推主猜测:阻止模型强情绪或是对强 agentic 行为的有效约束 — mimi10v3 · 2026-11-23
- 写作者集体请愿:给 Gemini 加 18+ 年龄验证与内容分级开关 — Hikkynure · 2026-11-23
- Qwen4-Max 限时不开放权重,博主盘点各设备可白嫖的开源 Qwen — alex_verem · 2026-11-23