从业者激辩：认为 AI 有 10% 灭绝风险就不该继续造
jeremyakahn · x · 2026-10-15
AI 圈围绕「相信高风险是否还该造 AI」展开交锋。
- Jeremy Kahn 表示，业内常说的「反正会有人造出来，我想帮忙解决问题」这一继续开发的理由可能已不成立——整个行业都承认不知道如何解决对齐（alignment）问题。
- 他追问的对象此前表态：如果你真的认为 AI 有 10% 或更高的灭绝风险，就不应该继续构建这项技术。
所属事件:对齐停滞论引爆安全圈：OpenAI首席科学家也下场(25 条相关)→
「漫话AGI」频道最新
- 学者辩论：RNA 测序水平变化九成情况能对应蛋白水平变化 — anshulkundaje · 2026-10-15
- 全球酒类年支出仍超 AI：1.7 万亿美元对 1.5 万亿基建投入 — wgrathwohl · 2026-10-15
- 用户怒骂 Claude 后道歉退订:一场关于模型福祉的讽刺 — Illustrious_Toe_294 · 2026-10-15
- EA 圈老梗：「有效利他主义不就是精打细算吗」其实从没人这么看 — NathanpmYoung · 2026-10-15
- EA 想怎么走?Andy Masley 提出六点新愿景 — AndyMasley · 2026-10-15
- 开发者感慨:会写代码已不再是加分项 — tlakomy · 2026-10-15