「曲别针最大化者」作者:偏好是被构造的,明确要求才有答案

jessi_cata · x · 2026-09-13

作者旧文重提:关于数学界「官方难题的解直接价值低、应找更好代理指标」的讨论,与 2023 年她写的「非超级智能曲别针最大化者」一文的观点相关。她给出的实操建议很朴素:试着礼貌而具体地说出你想要什么——这比听起来难,因为你通常并不知道自己在要什么。

核心论点是:偏好不是被动揭示出来的,而是被构造出来的。你能把要求说得多具体,愿望被实现的可能性就越大。这一原则既适用于对 AI 提需求,也被她用来回应数学界关于目标设定的讨论。

所属事件:AI安全研究者重提旧文:非超智能回形针最大化器同样危险(2 条相关)→

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →