安全研究者质疑：好人不扩张无助于降低风险
davidmanheim · x · 2026-09-15
这是 @davidmanheim 与 @DellAnnaLuca 关于 AI 安全策略的讨论。DellAnnaLuca 提出的核心论点是：如果「坏人」被允许扩张 AI 能力，那么「好人」选择不扩张对降低风险毫无意义。Manheim 回应称，「赢得通往全面灭绝的竞赛」并不令他信服，并指出一个中等置信度的判断：仅靠「大致对齐」和「大致拒绝」并不会有效到能解决根本问题。他进一步追问：为什么不与「坏人」谈判让他们停下？
所属事件:Manheim 与 DellAnna 激辩对齐：系统自持价值观还是靠 prompt 引导(9 条相关)→
「漫话AGI」频道最新
- 又一名 Google AI 安全研究员离职,警告人类可能面临生存风险 — Puzzleheaded-King584 · 2026-09-15
- Stewart Alsop 质疑 Netflix AI 末日纪录片：末日论是营销套路 — StewartalsopIII · 2026-09-15
- Netflix AI 纪录片上映两天后,英王召集 OpenAI 等起草 AI 宪章 — StewartalsopIII · 2026-09-15
- 60 余位欧洲专家警告:欧盟仅占全球 AI 算力 5%,美国占 75% — anselm · 2026-09-15
- Ben Goertzel 硬怼 Dario 的 AI 放慢提案:现实不会答应 — bengoertzel · 2026-09-15
- AI Now 研究员:各家都信「AI 只有在自己手里才安全」,正在酿成竞底竞赛 — S_OhEigeartaigh · 2026-09-15