Robert Miles:选好得到怪,选怪得到烂
AaronBergman18 · x · 2026-11-20
AI 安全研究者 Robert Miles 发表了一句广为流传的进化/优化观察:「如果按『好』来选择,你会得到『怪』;但如果按『怪』来选择,你会得到『烂』。」
这句话用一句话概括了选择压力下的权衡——以正常/优质为标准筛选,留下的往往是奇异但出色的样本;而以猎奇为标准筛选,结果通常走向劣质。对理解模型训练、强化学习和内容生态中的筛选机制都有启发。
「漫话AGI」频道最新
- 前 OpenAI 研究员:英语是新的 ML 编程语言,Lean 是类型系统 — lukaszkaiser · 2026-11-20
- 安全工程师身价看涨:或三年内比肩顶级 AI 研究员 — Kyrannio · 2026-11-20
- 网友抨击 AI 末日论者:真信末日就辞职退网别浪费时间 — TinfoilTricorn · 2026-11-20
- _xjdr 公开认错:从优化器信仰转向 flops 派,tszzl 回应「我错了」 — tszzl · 2026-11-20
- Nature 子刊:呼吸节律动态调控人类感知,吸气时视觉敏感度更高 — AnnaCiaunica · 2026-11-20
- 影迷抵制生成式 AI 电影,设计师直言未来会更难 — AIandDesign · 2026-11-20