「痛苦方向」行为效应存疑:32B 与 72B 数据互相矛盾
rgblong · x · 2026-10-08
- 可解释性研究者 rgblong 修正关于模型内部「痛苦方向」(pain direction)的讨论:所谓该轴比随机方向更少引发「缓解疼痛」行为,只在 32B 模型上成立(56% vs 81%),而 72B 上两者基本相当(76% vs 74%)。
- 他承认这条轴确实是某个方向、行为效应会和匹配的悲伤/恐惧/随机方向不同,但这不意味着它就是「痛苦」方向;它引发的大量异常行为只会加深他对该向量定义方式的怀疑。
- 结论:对「这个向量或这个任务对模型意味着什么」基本还是未知。
所属事件:「痛苦轴」论文遭同行质疑，AI 福利研究现分歧(7 条相关)→
「研究」频道最新
- KAIST GRACE:令 Wan2.1-I2V 视频生成延迟降低 11.1 倍 — kaist-ai · 2026-10-08
- NVIDIA Long-WAM:扩展世界-动作模型上下文,动态堆杯成功率 95% — nvidia · 2026-10-08
- RoboQuest 基准:最强多模态智能体具身探索成功率仅 23% — declare-lab · 2026-10-08
- ProactiveCoach:分层程序理解让主动式 AI 助手性能提升 57 个百分点 — skku · 2026-10-08
- RobotWorld 基准:84 个物理任务测试多模态机器人智能体 — Zhiqin Yang · 2026-10-08
- VepAgent:工具增强强化学习让视频事件预测补上因果推理短板 — UCSC-VLAA · 2026-10-08