Yudkowsky 谈超级智能对齐:不知道它要什么,就知道它不想要你活
inductionheads · x · 2026-09-14
Eliezer Yudkowsky 用彩票类比阐述其末日论逻辑核心:正如「不知道会抽出什么号码,却能确定你的彩票不中」,我们虽然不清楚机器超级智能会想要什么,但正因如此可以断定它不会想要让你活着——对齐不确定性本身即是不安全的证据。
转帖者则以「整个末日论都建立在这类论证之上」对此提出质疑,展示了 AI 安全辩论中反方对 Yudkowsky 论证结构的异议。
「漫话AGI」频道最新
- 「AI 垃圾」定义再漂移：从错误论变成配不配署名之争 — RexDouglass · 2026-09-14
- AI 2027 争议升级：Yoav Shoham 吐槽 FT，支持者称其影响力超顶会论文 — aryaman2020 · 2026-09-14
- Gary Marcus 松口：AI 灭绝风险不值得失眠，末日叙事失血 — AIandDesign · 2026-09-14
- 博主讽 Dario 与 Sam：真在意安全就该开源模型，否则一切为 IPO — MaxUnfried · 2026-09-14
- 换 AI 掌权概率不变？Szepesvari：真正的风险是超级智能体卷入国家博弈 — CsabaSzepesvari · 2026-09-14
- OpenAI 高管 Shyamal：科学智能的终局是随处再造工业产能 — shyamalanadkat · 2026-09-14