质疑者追问:痛感轴 steering 后「减痛」反降、「增痛」反升?
rgblong · x · 2026-10-08
rgblong 继续追问痛感方向论文的实验细节:据其理解,在 32B 和 72B 模型上用该轴做 steering 后,「缓解疼痛」按钮的按压反而比随机方向更少,而「增加疼痛」按钮的按压比未 steering 和随机方向都更多。他认为这更说明「steering、轴向量或实验设置有问题」,而非模型存在「奇怪的疼痛感」。
所属事件:AI「痛苦轴」论文遭多方质疑，福利研究公开分歧(5 条相关)→
「研究」频道最新
- UMI 数据采集 8 周从 5 人扩到 90 人,任务超百万 — HildeKuehne · 2026-10-08
- 人大ReSAIL解决迭代自蒸馏崩溃,最终成功率平均提升22.5% — RUC · 2026-10-08
- WebFovea 获 WebRetriever 挑战赛亚军:多数失败在 harness 而非模型 — Jiangang Han · 2026-10-08
- R-Quest 论文：用问题有效性与新颖性反馈终结自进化模型的性能崩塌 — HINT-lab · 2026-10-08
- 循环环式Transformer泛化256位奇偶校验,基线模型仍在随机水平 — princetonu · 2026-10-08
- KLPO框架:单次采样免critic的LLM异步RL策略优化方法 — math-ai · 2026-10-08