Zvi：AI 实验室一直在「基础安全」上投入不足，且激励失效
TheZvi · x · 2026-09-25
网友询问 TheZvi：实验室在打造能赚钱的足够安全的产品时，是否可能引发「工业事故」级别的后果（不必是灭绝级，严重到该关停的程度即可）。Zvi 回应称他反复论证过仅凭这一理由实验室就在「基础安全」（mundane safety）上投入不足，但现实是他们持续欠投入——实际中这构不成足够激励，「我们验证过了」，而且这一逻辑也覆盖不了其他风险关切。
所属事件:Zvi 批评 AI 实验室基础安全投入不足激励失效(2 条相关)→
「漫话AGI」频道最新
- 40 年程序员撰文：AI 不是程序，是被发现的数学模型 — kristoph · 2026-09-25
- Gary Marcus 对谈做空大师 Jim Chanos，聊 AI 数据中心融资与 p(doom) — GaryMarcus · 2026-09-25
- 澳洲「AI 黑进健身房」当事人身份反转:系 EA 大会总监 — robleclerc · 2026-09-25
- 聪明不等于对齐:优化能力与智慧是两个维度 — AryHHAry · 2026-09-25
- Nina Schick:民主社会如何应对 AI 历史时刻攸关自由与繁荣 — NinaDSchick · 2026-09-25
- Idea Machines 播客复播:对话 Ada Palmer 谈构建未来与科幻创作 — Ben_Reinhardt · 2026-09-25