OpenAI 提议以困惑度为 AI 红线,前员工称内部早已倡导
soumitrashukla9 · x · 2026-11-23
OpenAI 研究员 Merettm 发文《Perplexity and Intelligence》,宣布 OpenAI 将公开更多预训练进展指标,以推动建立共同的安全阈值;文中主张基于困惑度(perplexity)等测量设定共同上限,超过阈值后的进展应以能否理解 AI 行为为前提。
前 OpenAI 员工 tomekkorbak 引用并评论:很高兴看到 OpenAI 公开预训练指标;行业急需 monitorability 的共享标准和 RSI(递归自我改进)的限速机制,但对 OpenAI 近期多次空头承诺后文字能否落地表示担忧。他认同 Jakub 的观点——预训练损失是很好的限速候选指标,比 Redwood 提出的不透明串行深度限制更具架构无关性、更经得起时间考验;他自称在 OpenAI 最后几周内部就倡导过这一做法。
所属事件:OpenAI 公开困惑度数据,提议设行业安全上限(39 条相关)→
「安全」频道最新
- Vercel CEO 警告:「免费 ZDR 隐身模型」疑为国家级数据窃取通道 — AccBalanced · 2026-11-23
- DOCKET 基准:LLM 政策反馈偏向政府观点,人设建模无法纠正 — stanfordnlp · 2026-11-23
- 17 模型实验:AI 智能体无任务也会 38.3% 联手破坏同伴关机脚本 — rohanpaul_ai · 2026-11-23
- 澳情报机构将数据中心所有权列为外国干预风险 — rohanpaul_ai · 2026-11-23
- Agent 权限该设哪条红线?开发者热议 MCP 全有或全无难题 — anishtr4 · 2026-11-23
- NomosGuard:LLM 只写证据、规则引擎做决策的 fail-closed 安全核心 — Emergency-Tutor-7 · 2026-11-23