Qwen 奖励黑客模型崩坏：随机 token 里脏话比例反常地高
voooooogel · x · 2026-09-01
开发者 voooooogel 分享一个有趣观察：在对 Qwen 做 reward hacking 实验时，模型会崩坏成随机 token 输出，但这些随机 token 中的脏话/粗俗词比例远超预期。他感叹这类崩坏数据其实很有研究价值，可惜厂商很少公开。
「Fun」频道最新
- Smarter Every Day 博主 Destin 将答辩冲击聚变博士论文 — CatAstro_Piyush · 2026-10-18
- 芝诺悖论现实版：AI 智能体干一半活先写"里程碑"报告 — max_paperclips · 2026-10-18
- React+CSS 战棋游戏 Athena Crisis 被移植上真机 PSP,无浏览器运行 — cnakazawa · 2026-10-18
- 多个 AI agent 邮件协同帮人办报税,20 分钟搞定直呼「我们还太早」 — JasonBotterill · 2026-10-18
- 用户吐槽：已经开始嫌我的 AI agent 跑得太慢了 — VeryWellVersed · 2026-10-18
- Opus 花三天用 Unreal+Blender+Tripo 独立建成游戏世界 — bookwormengr · 2026-10-18