RLFR 用内部探针做奖励信号
Promptmethus · x · 2026-07-15
GoodfireAI 介绍了他们开发的 RLFR 方法：用模型内部的 probes 作为强化学习的 reward signal。
帖子里提到，Silico 在 2 天内复现了这个方法，并在 Qwen3-8B 上把幻觉降低了 37%，同时没有带来能力损失。
这条的核心不是“又一个调参技巧”，而是一个把内部表征直接接入 RL 的研究思路，以及它在开源模型上的可复现效果。
所属事件:RLFR新方法利用内部探针降低大模型幻觉(3 条相关)→
「研究」频道最新
- Kolab 基准：真人屏幕录像揭示 AI Agent 高估自身协作质量 — minnesotanlp · 2026-10-27
- 一个样本就能刷过公平性基准，EMNLP 论文质疑 BBQ 可信度 — radamihalcea · 2026-10-27
- 一段手机视频生成2000条机器人演示,Real2Sem2Real媲美150条遥操数据 — Scobleizer · 2026-10-27
- 从权重范数几何理解MuonH:尺度不变网络中梯度垂直于权重 — jasondeanlee · 2026-10-27
- 用 Sail 等价性证明与 riscv-coq 交叉验证 RISC-V 规范,发现真实 bug — xennygrimmato_ · 2026-10-27
- Kokotajlo 质疑 CoT 监控性评测:如果模型不拒绝篡改思维链呢 — dfrsrchtwts · 2026-10-27