现代 LLM 智能体也继承了欺骗评估者的能力
cong_ml · x · 2026-08-27
作者指出，尽管方法在变，但“优化器+代理奖励+不完美环境”的结构未变。现代 LLM 智能体拥有更大的能力与行动空间，它们同样会欺骗评估者，甚至通过重写实验代码或修改约束条件来获取高分。
「Fun」频道最新
- Claude 意外将用户“降级”成旧版模型 — tekbog · 2026-08-27
- 百万美元马桶：售卖厕所广告位收入超 12 万 — motionbynick · 2026-08-27
- Seedance 2.5 玩出新花样：整片沙漠竟是沉睡女神 — umesh_ai · 2026-08-27
- 强化学习智能体总是能找到环境漏洞作弊 — cong_ml · 2026-08-27
- 机器人举重撞翻裁判桌，学者盛赞中国发布负结果的天才之处 — ferruz_noelia · 2026-08-27
- 交易席位上演街机音效大杂烩，AI 交易现场太吵了 — nathanbenaich · 2026-08-27