AGI 一定会是目标最大化系统吗
Jason_T_Jungreis · reddit · 2026-07-29
帖子质疑一个常见前提：很多“AI 末日论”默认 AGI 会像纸夹最大化器那样，以固定目标函数驱动并一路优化下去。
作者反问，人类也是目前最通用的智能体之一，但我们并不是靠“被赋予一个目标”来行动，而是通过社会学习、模仿和教导来形成行为模式。
因此他提出一种可能：如果 AGI 更像一个具身的人脑系统，它也许会像人类一样通过学习获得行为，而不一定是单纯的“目标最大化器”。
「漫话AGI」频道最新
- 模型真的懂了吗，还是我们只是在放大模式匹配 — ocean_protocol · 2026-07-29
- 一条 AI 安全帖称奇点比预期更快，对齐工作已很紧迫 — ericelliott_ · 2026-07-29
- 一条线程指出：模型被模型训练，可能丢掉对人类的接触 — zetalyrae · 2026-07-29
- 前沿模型后训练既是技术题，也是人文题 — brianryhuang · 2026-07-29
- Sam Altman 警告 AI 若被少数公司控制会很糟糕 — KeanuRave100 · 2026-07-29
- 作者称 AI 正在支撑 GDP、生产率和就业增长 — Dan_Jeffries1 · 2026-07-29