AI 已听懂"真实意图"，许愿猴式对齐难题过时了吗

1337_420_69 · reddit · 2026-10-11

Reddit 用户 133742069 发帖质疑经典的"许愿猴/精灵"对齐担忧是否已过时：过去人们担心无法完整向 AI 描述真实价值，导致 AI 字面执行、扭曲愿望。但今天的 LLM（如 ChatGPT）已经能理解"把奶奶从着火的楼里救出来"这类请求背后的真实意图，相关争论近年几乎消失了。

作者认为现代模型已内化足够多的人类语境理解，不再是因指令描述不全就乱来的"天真精灵"，进而发问：这还算是一个严肃的担忧吗？该帖引发对对齐问题是否随能力提升自然消解的讨论。