Bostrom 提议先建不完美对齐的弱超智能再推进 AGI

AI 哲学家 Nick Bostrom 提出一种递进式的 AGI 对齐策略：当前现实可行的希望是先构建“大部分有用”、大体有益但不完美对齐的早期 AGI 系统；如果这种弱超级智能能实现基本对齐，就可以借助它去构建对齐更可靠、更强的 AGI，逐步提升安全性。

2026-08-22 ~ 2026-08-22 · 2 条相关