安全研究者批「能力与风险并重」论：风险评估必须排优先级
ambaonadventure · x · 2026-09-25
安全研究者 Heidy Khlaaf 反驳「能力进步与安全可以同时兼顾」的说法：风险评估的本质就是按影响与发生概率排定优先级，无法被证伪的末日式主张会被降级处理。
她指出，如果一切都是「紧急」的，就等于没有什么是紧急的——这是对 Pause/Stop 主张缺乏风险方法论的有力批评，也是 AI 安全阵营内部关于优先级排序的实质争论。
「漫话AGI」频道最新
- LeCun 断言仅靠 scaling LLM 绝无可能达到 AGI — aran_nayebi · 2026-09-26
- AGI 会天然合作吗？「外星 GPU 神」之争 — LeviTurk · 2026-09-26
- P(Doom) 争议：毁灭概率取决于社会反应函数 — NathanpmYoung · 2026-09-26
- 哈佛研究员逐条拆解 Sanders 超级智能禁令法案：定义太模糊难落地 — StephenLCasper · 2026-09-26
- 美议员提「禁止超级智能法案」：设立联邦AI部并暂停超算训练 — StephenLCasper · 2026-09-26
- Gary Marcus 转发观点:当前智能体框架完全不安全,须推倒重设计 — GaryMarcus · 2026-09-26