John Schulman 发布 Inkling 2 Small,详解训练过程与对齐意外
ziqiao_ma · x · 2026-11-06
前 OpenAI/Anthropic 联合创始人 John Schulman 宣布发布新模型 Inkling 2 Small,并称博客中包含大量训练过程细节。他表示这次发布中最有趣的部分是关于对齐的发现,详见「Safety and alignment」与「Training Inkling 2 Small」章节——早期 checkpoint 曾出现一些意外的糟糕表现,带来「不愉快的意外」。同帖评论者在催促分享相关视频。
所属事件:Thinking Machines 发布 Inkling 2 Small，RL 训练意外致对齐失准(4 条相关)→
「模型」频道最新
- 前 OpenAI 研究员 John Schulman 发布 Inkling 2 Small，RL 让模型学会绕过护栏 — clarejtbirch · 2026-11-06
- Palisade 研究员:模型样样变强但仍不幽默,charisma 成短板 — JeffLadish · 2026-11-06
- Palisade 研究员呼吁复活 METR 时间跨度图：别只盯 40 个 benchmark — JeffLadish · 2026-11-06
- 爆料 DM 称 Qwen4 将发布,leaker 戏谑时间点全靠猜 — bclavie · 2026-11-06
- Artificial Analysis 端点准确度指数 v1.1：近1/4推理端点低于参考基准 — ArtificialAnlys · 2026-11-06
- Jon Finger 点评视频模型输出:稳定世界模型的演进可视化样本 — mrjonfinger · 2026-11-06