OpenAI 罕见公开预训练进展,主张以困惑度设共同安全门槛
gordic_aleksa · x · 2026-11-23
OpenAI 研究员 merettm 宣布,为推动建立共享安全标准,OpenAI 将提高预训练进展的透明度。其新文《Perplexity and Intelligence》主张基于困惑度(perplexity)等可测量指标设立共同的进展上限,超过这些上限的推进须以我们理解 AI 行为的能力为前提(gated on our ability to understand AI behavior)。
Aleksa Gordić 对这一透明度举措表示欢迎。将内部预训练进度与可量化的安全门槛绑定讨论,是前沿实验室少见的公开表态。
所属事件:OpenAI 公开预训练困惑度数据,提议设行业安全红线(40 条相关)→
「模型」频道最新
- RLHF 研究者 Nat Lambert:RL 正在「烤干」模型多样性 — natolambert · 2026-11-23
- Bittensor 子网 92 号称产出 200 倍速于 LLM 的 JEV 决策模型 — markjeffrey · 2026-11-23
- 在 M2 MacBook 上跑本地模型,能实时看推理全过程 — vboykis · 2026-11-23
- 物理学家称其私有黎曼猜想研究被 Claude 独立复现结论 — bdsqlsz · 2026-11-23
- 实测 pi 适配器让 Qwen 3.8 27B 工具调用减少 4 倍、提速一半 — Fabulous_Pollution10 · 2026-11-23
- Pedro Domingos:OpenAI 承认预训练能力自 2022 年来几乎没进步 — pmddomingos · 2026-11-23