seth lazar 谈 AI 风险：不该暂停发展，但末日情形无法被证据排除多次
sethlazar · x · 2026-09-06
哲学家 Seth Lazar 与 Timothy Lee 就 AI 风险的理性决策展开深入辩论：
- 不确定性处理：Lazar 认同「以对行动的影响来评估风险」的思路，但强调必须更重视不确定性——我们不可能对最坏情形抱有那样高的置信度，那不符合证据
- 「敌人也有投票权」：即使从先验角度论证，如果 AI 可能造成一次福岛或沙利度胺级的工业规模事故，就无法排除它发生多次——因为我们的缓解措施在演化，智能体的对抗能力也在演化
- 政策立场：Lazar 仍认为继续发展 AI 是正当的，不支持暂停，理由是有时间继续学习并收获更安全的收益；但一旦达到他认为存在重大风险的临界点（暗示涉及 OpenAI 级别的风险），态度可能改变
所属事件:Lee 与 Lazar 激辩失控 AI：可管理威胁还是社会级灾难(20 条相关)→
「漫话AGI」频道最新
- 前端开发独扛两套后端：公司裁掉资深后端改用 Claude Code — ParticularFan1122 · 2026-10-23
- Grady Booch 引 Weinberg 名言讽软件质量：第一只啄木鸟就能摧毁文明 — Grady_Booch · 2026-10-23
- 分析师：UGC 平台易专业化，专业平台学 UGC 只会更像垃圾 — ZeroStateReflex · 2026-10-23
- AI 降低了写码门槛,独立开发者却更难了:竞争转向需求与流量 — sven_ai · 2026-10-23
- 单细胞动力学模型 DynaVelo 发表于 Nature Biotechnology — anshulkundaje · 2026-10-23
- e/acc 领袖 Beff Jezos:前沿实验室加速开源才能守住网络安全 — beffjezos · 2026-10-23