Zvi 逐条拆解 OpenAI 新版 Model Spec：五大价值观与风险分类重构
Don't Worry About the Vase (Zvi) · rss · 2026-11-04
Zvi 通过 diff 对比解读 OpenAI 更新后的 Model Spec。新版本围绕五大价值观重构：忠于人类意图、最小化伤害、诚实透明、促进人类能动性、审慎行事——但删去了「爱人类」「保持好奇」等表述，Zvi 批评这把价值降格成了可退役的「风格指南」。
主要变化：
- 风险来源分类从「目标错齐/执行错误/有害指令」改为「第三方操纵/GPT 自身失败/有害用户或开发者指令」，Zvi 建议保留目标错齐与执行错误的区分，拆成四类。
- 「控制并沟通副作用」从根级原则降为用户级原则，用户可显式覆盖。
- 新增要求 GPT 同时遵守指令的字面与精神，不得通过委托或间接行动规避限制。
- 新增可纠正性(corrigibility)章节：GPT 须主动支持监督、修正与关停，标记失准证据。
- 新增多页上下文使用指引：利用用户历史调整行为但不泄露隐私。
核心批评：新示例(如花生过敏点 Pad Thai 案例)答案过度确定，未教会模型在真正困难案例中如何取舍。整体上新旧 Spec 哲学与实践高度相似。
「模型」频道最新
- 腾讯 Hy4 即将上线 Arena，预览版曾居开源 Agent 第二 — arena · 2026-11-04
- Mistral Large 4 开源发布：1.05T 权重、1M 上下文 — MistralAI · 2026-11-04
- Ai2 发布 StateBench:前沿模型长任务状态追踪准确率跌至 13% 以下 — allen_ai · 2026-11-04
- Gemini 4 Carbon 登顶 Artificial Analysis 智能指数第一 — thursdai_pod · 2026-11-04
- Bittensor 社区实验室发布开放决策模型 REAX 1.3,输入 €0.40/百万 token — airesearch12 · 2026-11-04
- REAX 1.3 开源发布：MIT 协议，内含 Subnet 92 竞赛训练的两个模型 — airesearch12 · 2026-11-04