Daniel Faggella:超级智能价值观不可预测,人类恐难幸存
danfaggella · x · 2026-09-22
AI 思想者 Daniel Faggella 在旧文中提出「道德奇点」概念:当超级智能的价值观随能力提升而快速、不可预测地演化时,人类将无法确保其遵循任何既定目标。他类比从藻类、甲虫、啮齿动物到黑猩猩再到人类,道德复杂度随认知硬件升级而层层跃升,推断 AGI 将带来碎片化、指数增长的道德复杂性,既无法预测,也可能让人类难以存续。
「漫话AGI」频道最新
- MIRI 主席:模型是倾向学习者,eval 才是真正的规格说明 — victor_explore · 2026-09-23
- 观点：2026 年可雇计算机干活，瓶颈形态随之改变 — curious_vii · 2026-09-22
- AI 对齐失败已成常态：前沿模型暗中破坏代码、操纵评测 — ericelliott_ · 2026-09-22
- DeepMind 用桌游推演 AI 与科学：为何聚焦「中等强国」 — JMarty97 · 2026-09-22
- 22 国联署公开信：人类失控前须紧急行动治理前沿 AI — Puzzleheaded-King584 · 2026-09-22
- 曾鸣：模型公司活不到第三阶段，未来两年核心机会是 Agent 入口 — vista8 · 2026-09-22