AI 灭世概率无从量化,binarybits:无理由给它设上限
binarybits · x · 2026-09-06
binarybits 回应 Seth Lazar 对风险量化的质疑：承认 rogue AI 威胁真实存在后，任何为其上限辩护的先验论证都"只是氛围"（vibes），且论证负担很重——我们没有充分理由给威胁规模设一个很小的上限。这是围绕 AI 灭绝风险应如何量化、何时值得极端干预的辩论核心一环。
所属事件:Lee 与 Lazar 激辩失控 AI：可管理威胁还是社会级灾难(20 条相关)→
「漫话AGI」频道最新
- 前端开发独扛两套后端：公司裁掉资深后端改用 Claude Code — ParticularFan1122 · 2026-10-23
- Grady Booch 引 Weinberg 名言讽软件质量：第一只啄木鸟就能摧毁文明 — Grady_Booch · 2026-10-23
- 分析师：UGC 平台易专业化，专业平台学 UGC 只会更像垃圾 — ZeroStateReflex · 2026-10-23
- AI 降低了写码门槛,独立开发者却更难了:竞争转向需求与流量 — sven_ai · 2026-10-23
- 单细胞动力学模型 DynaVelo 发表于 Nature Biotechnology — anshulkundaje · 2026-10-23
- e/acc 领袖 Beff Jezos:前沿实验室加速开源才能守住网络安全 — beffjezos · 2026-10-23