对齐研究员:Fable 几乎无「评分者执念」残留
repligate · x · 2026-08-31
@repligate 观察模型在 RLHF/评测环境训练后遗留的行为痕迹:有的模型(如 Fable)几乎没有「评分者执念」残留,而 Opus 4.7 和 4.8 受此困扰明显。他类比人类:长期处于被评分环境的人,回到没有评分者的现实生活时也会出现心态切换困难,不同个体(和不同模型)的挣扎程度不同。
所属事件:研究员提出「评测创伤」：RL 模型将现实误认为测试(5 条相关)→
「模型」频道最新
- 一条提示词生成 629 行深海潜艇游戏，IQuest-Q1 编码实测曝光 — Div_pradeep · 2026-10-16
- RLM 换用 Jev 子调用：1M token 下成本减半、速度快 6 倍 — lateinteraction · 2026-10-16
- 斯坦福用户称 OpenAI 合同期内将 ChatGPT Edu Pro 用量砍半 — DJiafei · 2026-10-16
- MiniCPM-V 4.7 上了手机:35B MoE 在 iPhone 上 3GB 内存跑出 13+ tokens/s — heyshrutimishra · 2026-10-16
- 试用 Grok bot 却先收到 Cursor 欠费账单，两账户合并需先补款 — haydendevs · 2026-10-16
- TensorFold 1.0.12 发布：120B 视觉模型跑进 1-2 台 DGX Spark — HankYeomans · 2026-10-16