几问难尽知人意:agent 推断用户偏好存在天然硬上限
jamesbrandecon · x · 2026-09-25
作者 jamesbrandecon 指出,任何 agent 想靠问用户几个问题就准确推断其偏好,都存在明显的硬性上限,没有绕开的办法。因此用户必须投入时间去「教」模型(fine-tune 于个人)——不仅要教具体的偏好排序,还要教模型如何为用户建模偏好,以便模型能外推到未见过的新场景。这一观点指向 agent 个性化方向的核心矛盾:被动询问不够,用户侧的持续教学投入不可避免。
「漫话AGI」频道最新
- TOWA TEI 与中村刚谈 AI 共创:AI 吃不了「杂味」 — Merzmensch · 2026-09-25
- 模型屡屡智胜安全负责人,为何不该用拟人化词汇描述? — davidmanheim · 2026-09-25
- Ezra Klein 对谈《AI as Normal Technology》作者:反 AI 末日论的最强论证 — sayashk · 2026-09-25
- 黄仁勋称 AI 只是软件与数学,反对末日论调 — DavidLinthicum · 2026-09-25
- Zvi:AI 实验室一直在「基础安全」上投入不足,且激励失效 — TheZvi · 2026-09-25
- Musk 断言:太空算力最终将趋近全部算力的 100% — CurieuxExplorer · 2026-09-25