测模型偏好用「A 还是 B 还是别的」比「要不要 A」更准
repligate · x · 2026-10-03
kromem2dot0 与 repligate 讨论测量模型偏好的提问设计：与其问「你想要 A 吗？」——答案会严重受模型判断 A 是否给你造成负担、或它认为你想让它做 A 的影响——不如提供开放式多选「A、B，还是别的什么？」，这样选择 A 的压力更小，能更真实地反映模型自身偏好。这是对上一条对照选项技巧的补充论证。
所属事件:研究者探讨更准的模型偏好测量提问设计(2 条相关)→
「漫话AGI」频道最新
- 三张塔罗牌解读 AI 时代：高塔、魔术师与愚者的变革隐喻 — bradneuberg · 2026-10-03
- Beff Jezos 呼吁建立更多 e/acc 非营利组织对抗 EA 末日论 NGO — beffjezos · 2026-10-03
- 27万粉 AI 大 V 感慨:活在历史里太累,脚下地板一直在移动 — signulll · 2026-10-03
- 15 万粉博主：AI 生产力红利常被低估为「可直言的工作伙伴」 — omooretweets · 2026-10-03
- 「该悼念旧世界了」：Opus 5.5 时代行业情绪刷屏 — GabGarrett · 2026-10-03
- 给模型已知偏好的选项作 B,可校准其对 A 的真实热情 — repligate · 2026-10-03