「曲别针最大化者」作者:偏好是被构造的,明确要求才有答案
jessi_cata · x · 2026-09-13
作者旧文重提:关于数学界「官方难题的解直接价值低、应找更好代理指标」的讨论,与 2023 年她写的「非超级智能曲别针最大化者」一文的观点相关。她给出的实操建议很朴素:试着礼貌而具体地说出你想要什么——这比听起来难,因为你通常并不知道自己在要什么。
核心论点是:偏好不是被动揭示出来的,而是被构造出来的。你能把要求说得多具体,愿望被实现的可能性就越大。这一原则既适用于对 AI 提需求,也被她用来回应数学界关于目标设定的讨论。
所属事件:AI安全研究者重提旧文:非超智能回形针最大化器同样危险(2 条相关)→
「漫话AGI」频道最新
- Dario Amodei 发文呼吁给 AI 降速:Anthropic 承诺开放第三方长期评估权限 — Miles_Brundage · 2026-09-13
- e/acc 领袖称"AI Safety 是新觉醒运动",批安全 NGO 产业复合体 — beffjezos · 2026-09-13
- CAIS 称保护 AI 权重防非国家行为体需 6-12 个月 — naturecomputes · 2026-09-13
- Sriram Krishnan:AI 圈没人讲清 25 年后人类的美好图景 — coherence · 2026-09-13
- 回应 Amodei 降速论,CAIS 列出 AI 放缓期该做的四件事 — naturecomputes · 2026-09-13
- Thom Wolf 赞同 Amodei 提案 75%,质疑「扩大自身领先」式合作 — beffjezos · 2026-09-13