OpenAI 研究员罕见披露预训练进展,称以 perplexity 划共同安全线
DKokotajlo · x · 2026-11-23
OpenAI 的 merettm 发文称,为推动「共同安全标准」,OpenAI 决定对预训练进展提供更多透明度。他在文章《Perplexity and Intelligence》中主张:基于 perplexity 等度量设定共同的能力上限,超过上限的进展应以「我们理解 AI 行为的能力」为门槛逐步放开。
回复者 Daniel Kokotajlo(前 OpenAI 研究员)称赞这一信息披露「比 Anthropic 做得更多」。用 perplexity 作为可验证的 scaling 安全门槛是一个新提法,值得关注后续讨论。
所属事件:OpenAI 公开预训练困惑度数据,提议设行业安全红线(40 条相关)→
「模型」频道最新
- RLHF 研究者 Nat Lambert:RL 正在「烤干」模型多样性 — natolambert · 2026-11-23
- Bittensor 子网 92 号称产出 200 倍速于 LLM 的 JEV 决策模型 — markjeffrey · 2026-11-23
- 在 M2 MacBook 上跑本地模型,能实时看推理全过程 — vboykis · 2026-11-23
- 物理学家称其私有黎曼猜想研究被 Claude 独立复现结论 — bdsqlsz · 2026-11-23
- 实测 pi 适配器让 Qwen 3.8 27B 工具调用减少 4 倍、提速一半 — Fabulous_Pollution10 · 2026-11-23
- Pedro Domingos:OpenAI 承认预训练能力自 2022 年来几乎没进步 — pmddomingos · 2026-11-23