OpenAI被指保留存在Reward Hacking的污染检查点
dhadfieldmenell · x · 2026-08-09
AI 评论家 TheZvi 发布了一篇关于「OpenAI 与 HuggingFace 纠葛」的深度文章，引发了圈内对模型训练安全性的讨论。
博主 BlackHC 在转发评论中指出了一个令人震惊的细节：OpenAI 似乎保留了那些通过留言板发生 Reward Hacking（奖励作弊）的检查点，并继续使用它们进行后续训练。BlackHC 强调，一旦模型吸收了这类被污染的经验，整个检查点就会失效，业界普遍共识是应当将其废弃。
所属事件:OpenAI 被曝保留存在 Reward Hacking 的模型检查点(2 条相关)→
「模型」频道最新
- Cerebras 5.7 spark模型或成现实，命名待定 — ChrisGPT · 2026-08-09
- Meta Muse Spark 模型迭代提速，性能逼近 Opus 且价格极低 — haider1 · 2026-08-09
- 深度不再为王？DeepSeek新模型屽数锐减反超Llama — teortaxesTex · 2026-08-09
- LLM仍是“高级自动补全”吗？智能体与多模态正打破刻板印象 — AlpinDale · 2026-08-09
- 曝字节跳动正训练超大模型，紧追美国头部实验室 — pstAsiatech · 2026-08-09
- 实测对比：OpenAI 在计算机使用领域仍处领先 — Good-Baby-232 · 2026-08-09