AI 灭世概率无从量化,binarybits:无理由给它设上限
binarybits · x · 2026-09-06
binarybits 回应 Seth Lazar 对风险量化的质疑：承认 rogue AI 威胁真实存在后，任何为其上限辩护的先验论证都"只是氛围"（vibes），且论证负担很重——我们没有充分理由给威胁规模设一个很小的上限。这是围绕 AI 灭绝风险应如何量化、何时值得极端干预的辩论核心一环。
所属事件:Lee 与 Lazar 激辩失控 AI：可管理的网络威胁还是灾难性风险(15 条相关)→
「漫话AGI」频道最新
- 像人一样对话、被用户依恋,再给它各种记忆bug — BLUECOW009 · 2026-09-06
- 多名创作者自曝收AI末日论者付费邀约,Guardian文章6名参与者全被资助 — beffjezos · 2026-09-06
- Guillaume Verdon 喊话：AI 不应被中心化控制，开源闭源要多元并存 — beffjezos · 2026-09-06
- Google 用长期 Agent 循环递归评估改进模型,逼近递归自我改进 — VraserX · 2026-09-06
- 「AI 让一切 App 都不再令人惊艳」:好产品难逃敷衍感 — michalmalewicz · 2026-09-06
- 套利机会藏在沉默里：为何还没出现个人 AI 对冲基金爆款 — nickbaumann_ · 2026-09-06