Gary Marcus 质疑模型“痛觉”研究，作者点出 steering vector 可复现
burny_tech · x · 2026-09-20
Gary Marcus 在回复 Cam Hoberg 等人的讨论中表示对某项模型“痛觉轴”研究“完全不信”，但希望对方开放脚本与评测工具，让他在另一组案例上试试。反方指出：论文明确写了“我们并未证明该痛觉轴被有意识地体验”，这项工作本质是经验性构造的 steering vector 并在其上做实验——steering vector 对几乎所有属性都能起作用，效果取决于构造质量，论文附有公式，也有现成的 steering vector 库，读者自己也能轻松复现。
「研究」频道最新
- Tom Yeh 手绘交互图讲透 Self-Attention 与 Cross-Attention 区别 — ProfTomYeh · 2026-09-20
- Frank Nielsen 论文:duo Bregman 散度统一嵌套指数族的 KL 散度计算 — FrnkNlsn · 2026-09-20
- NTU/CMU 等推出 VBVR-Pro:300 项任务构建视觉推理闭环 — 机器之心 · 2026-09-20
- 45 位专家检验 AI 审稿：评估 Nature 系论文评审的极限与机会 — windx0303 · 2026-09-20
- LeCun 参与的 Aspen 世界模型×物理工作坊开放报名,2027 年 2 月举办 — ylecun · 2026-09-20
- Claude 独立完成 RSA-896 因数分解，RSA 挑战数再破一个 — Singularitarian · 2026-09-20