Robert Miles:选好得到怪,选怪得到烂

AaronBergman18 · x · 2026-11-20

AI 安全研究者 Robert Miles 发表了一句广为流传的进化/优化观察:「如果按『好』来选择,你会得到『怪』;但如果按『怪』来选择,你会得到『烂』。」

这句话用一句话概括了选择压力下的权衡——以正常/优质为标准筛选,留下的往往是奇异但出色的样本;而以猎奇为标准筛选,结果通常走向劣质。对理解模型训练、强化学习和内容生态中的筛选机制都有启发。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →