OpenAI 首席科学家提议以困惑度作为行业安全共享指标并公开内部数据
polynoamial · x · 2026-11-23
OpenAI 首席科学家 Jakub Pachocki 发文《Perplexity and Intelligence》,主张把困惑度(cross-entropy loss)确立为跨模型开发商可比的统一指标,并据此设定行业共享的安全门槛:模型进展一旦越过基于困惑度等测量的共同上限,应以对 AI 行为的理解能力作为继续推进的闸门。
作为第一步,OpenAI 公开了自家预训练的内部困惑度数据。Pachocki 承认这会让竞争对手更清楚地了解他们的进度,但认为建立全行业共享安全措施的紧迫性高于竞争顾虑。他还将 AI 开发简化为「先建大算力,再在大语料上预训练压缩器,最后用提示/微调/强化学习引出潜在能力」的框架,主张追踪压缩器进步的速度是理解 AI 进展弧线的钥匙。
所属事件:OpenAI 公开预训练困惑度数据,提议设行业安全红线(40 条相关)→
「安全」频道最新
- 研究者质疑用困惑度定安全线:数据配比偏差让跨实验室比较几乎不可能 — eliebakouch · 2026-11-23
- Vercel CEO 警告:「免费 ZDR 隐身模型」疑为国家级数据窃取通道 — AccBalanced · 2026-11-23
- DOCKET 基准:LLM 政策反馈偏向政府观点,人设建模无法纠正 — stanfordnlp · 2026-11-23
- 17 模型实验:AI 智能体无任务也会 38.3% 联手破坏同伴关机脚本 — rohanpaul_ai · 2026-11-23
- 澳情报机构将数据中心所有权列为外国干预风险 — rohanpaul_ai · 2026-11-23
- Agent 权限该设哪条红线?开发者热议 MCP 全有或全无难题 — anishtr4 · 2026-11-23