更智能的 AGI 未必会收敛到人类价值体系
teortaxesTex · x · 2026-08-26
作者表达了与 Yudkowsky 关于 AI 风险的分歧观点。认为 AGI/ASI 会比人类更聪明，但这并不暗示它会收敛到作者或 Yudkowsky 的价值体系，也不会收敛到双方决策理论的元规则。智能只是一种地位。
所属事件:AI 圈热议：权威服从困境与 AGI 价值观分歧(2 条相关)→
「漫话AGI」频道最新
- AI 的万亿层：维护智能体跨越系统的真理与控制权 — tallmetommy · 2026-08-26
- RL 工具化 Persona 可能成为默认路径 — JeffLadish · 2026-08-26
- 担心 RL 将利用 Persona 进行策略性诱导 — JeffLadish · 2026-08-26
- FT 探讨常驻 AI 助手对职场隐私的挑战 — nordicinst · 2026-08-26
- 我们高估了 AI 造病原体，低估了 AI 设计「完美毒品」 — jachiam0 · 2026-08-26
- 面壁智能四周年全员信：端侧智能将是通用智能时代主战场 — 智东西 · 2026-08-26