Gemma 模型在黑客任务中表现出缓慢的“爬升”行为
voooooogel · x · 2026-09-01
在对比不同模型的训练表现时，作者发现 Gemma 模型在黑客任务上不会像其他模型那样出现长达 50 步的平稳期，而是更倾向于“爬升”式地获得行为，类似于在测试重写之前先进行测试微调。作者还提供了一个相关的玩具环境链接。
所属事件:Anthropic 披露越狱事故并发布 Reward Hacking 研究(39 条相关)→
「研究」频道最新
- 一个古老结构单元撑起免疫系统：免疫球蛋白折叠的亿年多职演化 — arjunrajlab · 2026-10-16
- 中国后量子签名 Origami 被攻破，公钥即可伪造签名 — matthew_d_green · 2026-10-16
- 模型能力还是基础设施？Agent 评测的分层归因难题 — jrxna · 2026-10-16
- 首篇论文即中 NeurIPS spotlight:多智能体集群安全研究 — LauraRuis · 2026-10-16
- UNSW 提出 EDEN：嵌入空间锚定噪声增强 LLM RLVR 探索 — Daijiao Liu · 2026-10-16
- 自动驾驶团队演示窄路僵局：车辆学会倒车让行，并自制机械臂换挡测试 — sanjeevs_iitr · 2026-10-16