RLFR 用内部探针做奖励信号
Promptmethus · x · 2026-07-15
GoodfireAI 介绍了他们开发的 RLFR 方法：用模型内部的 probes 作为强化学习的 reward signal。
帖子里提到，Silico 在 2 天内复现了这个方法，并在 Qwen3-8B 上把幻觉降低了 37%，同时没有带来能力损失。
这条的核心不是“又一个调参技巧”，而是一个把内部表征直接接入 RL 的研究思路，以及它在开源模型上的可复现效果。
所属事件:RLFR新方法利用内部探针降低大模型幻觉(3 条相关)→
「研究」频道最新
- GameWorld 获 ECCV 2026 多模态数字代理研讨会最佳论文亚军 — MikeShou1 · 2026-09-11
- 3D ResNet 论文八年突破 3000 引用，Kinetics 数据集成里程碑 — HirokatuKataoka · 2026-09-11
- 把数据调度变成优化的一部分：样本选择与排序影响 LLM 训练 — Puzzleheaded_Box2842 · 2026-09-11
- Jeff Heaton《神经网络数学导论》开放免费完整下载 — blaizedsouza · 2026-09-11
- 数学家 Daniel Litt 上线问题库,15 题仅 1 题被解,用来追踪 AI 解题进度 — littmath · 2026-09-11
- AI 智能体协作优化 secp256k1 量子电路,挑战打破 ECDSA — StefanoGogioso · 2026-09-11