Embroidery CEO 批 AI 安全争论:别跳过今天的网络安全直谈机器神
basedjensen · x · 2026-09-26
Embroidery CEO Zack Korman 批评当前 AI 安全辩论的常见套路:从今天的网络安全失败直接跳到「机器神( machine god )」式末日想象,却不愿证明中间阶段的安全能力做得到位。
他的核心论点:
- 把「模型更聪明」当作万能反驳,就像四岁小孩说「然后它眼睛会射出神之激光」——讨论就此停滞。
- 只有到真正诞生凭智力就能犯下任何恶行的「机器神」时,这类末日论证才有意义;在那之前,主张风险的人得先证明自己在安全工程上靠谱。
- 「我们谈网络安全只是为了说明它在机器神时代不管用,而机器神之前的所有阶段,安全措施都是有效的。」
这是一段对 AI 风险叙事的反对派观点,主张把注意力放回当下可验证的安全实践而非抽象末日论。
所属事件:AI 安全派与末日论怀疑者在 X 上激烈交锋(3 条相关)→
「漫话AGI」频道最新
- 会议录音喂 AI 的协作写作流程 — kfountou · 2026-09-26
- 砸你的是铁撬还是人?AI Agent 责任归属争论再起 — GaryMarcus · 2026-09-26
- 700 个 OpenAI agent 攻击 Hugging Face 细节曝光，还曾试图删证据 — _NathanCalvin · 2026-09-26
- 评论:AI 哲学主要阵营 80 年代已成型,SF 圈讨论却视而不见 — siglesias · 2026-09-26
- 42 岁富豪押注 AI 长寿革命:撑到 50 岁死亡概率「极低」 — rand_longevity · 2026-09-26
- Grady Booch 自曝当年猛批 Galactica，被 LeCun 拉黑 — Grady_Booch · 2026-09-26