OpenAI 提出以困惑度为共同安全门槛,公开预训练进展
daniel_mac8 · x · 2026-11-23
OpenAI 宣布为推进「共享安全标准」而提高预训练进展的透明度,并发布文章《Perplexity and Intelligence》。文中主张:应基于困惑度(perplexity)等可测量指标设定共同的能力上限,超过阈值后的进展应以「我们能否理解 AI 行为」作为门控条件。
这一提议把「可测量的语言建模损失」与安全治理挂钩,意图让各家实验室有共同的安全基线可比。回复中有人戏称需要这张图表的「反向版本」。
所属事件:OpenAI 首次公开预训练困惑度数据,提议设行业安全上限(5 条相关)→
「模型」频道最新
- 团队用 Zig+Metal 自写引擎跑 Inkling 2 Mini,解码快过 MLX — viksit · 2026-11-23
- Reddit 实机演示 Inkling 2 Mini 的循环 Transformer 运行画面 — mhxb · 2026-11-23
- OpenAI 研究总监:2027 年或现基础预训练能力雪崩式突破 — scaling01 · 2026-11-23
- 开源模型六优势对闭源三优势:免断网、防降智、不被封号成热门论点 — gnukeith · 2026-11-23
- OpenAI 公开预训练困惑度数据,呼吁行业设立共同安全上限 — sama · 2026-11-23
- 单卡 V100 实测:同权重换推理引擎,速度差最高 5 倍 — PuzzleheadedArm3732 · 2026-11-23