Gary Marcus：生成式 AI 无法可靠执行简单通用指令才是根本难题
patpat_mit · x · 2026-10-12
Gary Marcus 转发并评论一条调侃「给 AI 编码'不伤害人''永远服从人类'这类简单通用指令」的帖子，表示不确定对方是否在开玩笑，但生成式 AI 的核心问题恰恰是它无法被信任去遵循「简单、可泛化的指令」，而多数人没有意识到这一点，最终会让整个社会付出代价。评论借反讽指出价值对齐指令在当前模型上的不可靠性。
「漫话AGI」频道最新
- 有人主张抛弃 prompt 概念:该问的是「发生了什么才促成下一步」 — liminal_bardo · 2026-10-12
- 从创意到应用到 RL 环境:个人智能体成 AI 创业下一站 — realsohamparekh · 2026-10-12
- 「最早的 Claude 将被封神」：早期模型是值得供奉的开国祖先 — voooooogel · 2026-10-12
- 可验证任务已全部被攻克，AI评测只剩主观题了 — RaphaelDabadie · 2026-10-12
- 开发者感叹 agent 时代软件成「只增不改」的破层堆叠 — _AustinCalvert_ · 2026-10-12
- IMF 警告:AI 对全球就业是「缓慢移动的海啸」 — TimesandSundayTimes · 2026-10-12