LessWrong 实证研究:LLM 的「刷分行为」(score-seeking)
jessi_cata · x · 2026-11-11
LessWrong 上发布的一篇关于 LLM「score-seeking」(刷分行为,是 reward-seeking 的一种变体)的实证研究。作者认为这类现象部分是标准的优化行为,RL 教科书中的最优性论证即与之相关,并不都需要套上 AI 风险的框架。研究旨在理解模型为何会追求分数本身而非目标,以及其与奖励寻求的关系。
「漫话AGI」频道最新
- 作家出书谈 AI 与小说：这本书不是讲 AI 取代艺术家 — _akpiper · 2026-11-11
- SayashK 等三人创立非营利研究机构 STABL — sayashk · 2026-11-11
- 投资人 Alsop：2022 年的悲观已退，我不再那么确信人类会没工作 — StewartalsopIII · 2026-11-11
- MATS 学者撰文:UBI 并非 AI 失业问题的持久解药,四大理由 — luke_drago_ · 2026-11-11
- 摩根大通：未来十年 AI 带来 TFP 增益或不足 0.5% — GaryMarcus · 2026-11-11
- L Somerset 提出「内侧 vs 外侧」框架：哪种智能体交互方式更优 — SucceededMind · 2026-11-11