OpenAI 拟以困惑度设共同安全阈,研究员呼吁公开代表性验证集
_lewtun · x · 2026-11-23
OpenAI 研究员 merettm 发文《Perplexity and Intelligence》,提出为预训练进展建立透明化机制:基于困惑度(perplexity)等测量指标设立共同的安全上限,超过阈值的进展须以理解 AI 行为的能力为前提。这一提案旨在推动行业走向共享安全标准。
DimitrisPapail 转发并评论称,OpenAI 若能发布一个有代表性的验证集(validation set),将是对开放 AI 科学最大的贡献——因为困惑度只在可比的验证集上才有意义。Hugging Face 的 Lewis Tunstall 亦转发了这一观点。
所属事件:OpenAI 首席科学家公开预训练困惑度数据,提议行业安全标尺(17 条相关)→
「模型」频道最新
- 博主给出综合模型榜:opus 5.5 居首,兼顾成本与速度 — MatthewBerman · 2026-11-23
- OpenAI 提出以困惑度为共同安全门槛,预训练进展将更透明 — anpaure · 2026-11-23
- 用 Gemini 4 Neon 做出黄金街第一视角凶案推理游戏 — venturetwins · 2026-11-23
- OpenAI 基座模型困惑度路线图泄露:内部模型已越千年数学奖门槛 — iruletheworldmo · 2026-11-23
- 微调 Inkling 2 Mini 做工单路由:54% 问题一轮即可出结果,时延降四成 — eltokh7 · 2026-11-23
- OpenAI 员工确认 GPT-4.1 并非全新预训练,只是 mid-train — JasonBotterill · 2026-11-23