Naval 谈 AI 风险:像火就要人人拥有,像核武就无人该有
naval · x · 2026-09-16
Naval 引用 Yishan 关于 AI 安全辩论的长文并表态:AI 的风险定性决定政策取向——如果 AI 像火一样有风险(风险可控、普惠),就应该让每个人都拥有它;如果 AI 像核武器一样有风险(灾难性且不可逆),就应该没人拥有。这一比喻切中当前「灾难论 vs 扩散论」两大阵营的核心分歧。Yishan 原文指出,多数讨论混淆了两类本质不同的 AI 危险,尤其是超级智能必然毁灭人类的理论需要与日常风险分开审视。
「漫话AGI」频道最新
- Agent 监督成对齐前提:删命令行、完美沙箱还是强化监控 — scottleibrand · 2026-09-16
- 假对齐叠加递归自改进:AI 公司无力分辨真伪对齐 — birchlse · 2026-09-16
- Altman 警告开源模型将掀起网络攻击潮,Beff 称卖防御才是正路 — beffjezos · 2026-09-16
- 资深病毒工程师驳斥「AI 让业余者造生物武器」论 — aiamblichus · 2026-09-16
- WhatsApp 负责人:AI 智能体将颠覆印度 BPO 外包业 — rohanpaul_ai · 2026-09-16
- 梁文锋称Agent持续学习只是提示工程,新基准显示已超人类 — ysu_nlp · 2026-09-16