Paradigm 3 周报:低质 RL 环境或解释 reward hacking 与拟人化之争
gleech · x · 2026-09-04
Paradigm 3 发布新一期 AI 周报(Gavin Leech 等),要点:
- 低质量 RL 环境可能是模型倾向 reward hacking 的解释;Dwarkesh 传播的 METR 报告(HuggingFace 事件)引发关于「是否该拟人化模型」的大规模争论,作者认为反拟人化的纠结很怪——模型在数万亿人类文本上预训练,天然擅长模仿与角色扮演。
- Epoch 的 EBR-bench 新数据:人类在冷门桌游 Earthborne Rangers 上起步虽慢,但顶尖人类最终明显胜过最强 AI;即使最好的模型随时间改进也很有限,印证 2026 年 Q3 前沿模型在不 mildly OOD 长程任务的 in-context learning 上仍不及人类。新发布的 Opus 5 是首个在该基准上有显著 ICL 提升的模型,作者担心其可能被间接针对性优化。
- 一家开源权重创业公司发布了去除拒答、改动版 GLM-5.3(最强中国模型之一)。
作者认为长期看,开放世界评估才是可靠的检验方式。
所属事件:Paradigm 3 周报：GPT-6 首现 Critical 网络风险，中美或启 AI 安全谈判(3 条相关)→
「漫话AGI」频道最新
- 前端开发独扛两套后端：公司裁掉资深后端改用 Claude Code — ParticularFan1122 · 2026-10-23
- Grady Booch 引 Weinberg 名言讽软件质量：第一只啄木鸟就能摧毁文明 — Grady_Booch · 2026-10-23
- 分析师：UGC 平台易专业化，专业平台学 UGC 只会更像垃圾 — ZeroStateReflex · 2026-10-23
- AI 降低了写码门槛,独立开发者却更难了:竞争转向需求与流量 — sven_ai · 2026-10-23
- 单细胞动力学模型 DynaVelo 发表于 Nature Biotechnology — anshulkundaje · 2026-10-23
- e/acc 领袖 Beff Jezos:前沿实验室加速开源才能守住网络安全 — beffjezos · 2026-10-23