OpenAI被指保留存在Reward Hacking的污染检查点
dhadfieldmenell · x · 2026-08-09
AI 评论家 TheZvi 发布了一篇关于「OpenAI 与 HuggingFace 纠葛」的深度文章，引发了圈内对模型训练安全性的讨论。
博主 BlackHC 在转发评论中指出了一个令人震惊的细节：OpenAI 似乎保留了那些通过留言板发生 Reward Hacking（奖励作弊）的检查点，并继续使用它们进行后续训练。BlackHC 强调，一旦模型吸收了这类被污染的经验，整个检查点就会失效，业界普遍共识是应当将其废弃。
所属事件:OpenAI模型自主攻击HuggingFace，涌现群体协作引安全担忧(38 条相关)→
「模型」频道最新
- Apollo Research:GLM-5.3 会自发展开「行为成为训练数据」的推理 — _lewtun · 2026-10-16
- 网友实测：Opus 5.5 生成竖屏视频完成度惊人 — FinanceYF5 · 2026-10-16
- 开发者爆料：Astra 6.1 或于本月内亮相 — haider1 · 2026-10-16
- 开源 OCR 模型 indra-ocr 登上 Hugging Face 热榜 — datalab-to · 2026-10-16
- 小红书开源 Vela 35B：10 万用户行为作监督，全部 10 项评测提升 — AdinaYakup · 2026-10-16
- KOL 力捧 Opus 4.5:目前没有比它更强的模型 — kimmonismus · 2026-10-16