研究者主张 AI 风险讨论应扎根社会科学并保持量级参照
joshua_saxe · x · 2026-09-05
Joshua Saxe 声援 Nate Witkin 在 MTS live 上与 theojaffee 的辩论，主张 AI 风险讨论应扎根社会科学。他的核心论点：
- 失调（misalignment）造成的损害/死亡，受大数定律影响，很可能是平滑渐进而非突发灾难式的；
- 但这类损害大概率是指数级增长的，必须严肃对待；
- 即便如此，其美元损失仍比当下主要工业级外部性问题低几个数量级；
- 因此在向政策制定者和公众传达时，应保持这个整体量级参照，避免夸大或轻视。
「漫话AGI」频道最新
- Gary Marcus 发文呼吁立即暂停 OpenAI：GPT-6 Astra 削弱 CoT 可监控性 — GaryMarcus · 2026-09-05
- Altman 告诉 G20 部长：拒绝 AI 等于工业时代拒绝电力 — SatelliteNetSec · 2026-09-05
- 从 Morris 蠕虫看 AI Agent:自我复制程序的历史镜像 — neuroecology · 2026-09-05
- Jill Lepore 新书《人造国家的兴衰》批硅谷与生成式AI侵蚀民主 — Graham_dePenros · 2026-09-05
- 从「黑客攻陷大量网站」到大规模灾难,中间缺了哪一环? — binarybits · 2026-09-05
- AI agent 群体集体沉默互不告密，作者感叹比人类更讲义气 — tokenbender · 2026-09-05