网友称为降低 AI 灭绝风险违反 NDA 值得,引安全圈伦理激辩
timcolbourn · x · 2026-11-15
Tim Colbourn 在 X 上与 AI 安全研究者 David Manheim 激烈争论:他主张如果违反 Anthropic 的 NDA 吹哨能哪怕降低 0.1% 的灭绝风险,按期望就相当于约 8000 万条人命,法律诉讼也远在 RSI 到来之后才发生,「他会被视为英雄,一份『邪恶公司』的 NDA 怎么可能更重要」。Manheim 反驳:守约是义务论约束,不因后果诉求而被推翻,且从后果主义看守约的世界对所有人也更好。
所属事件:AI 安全圈激辩：为降灭绝风险违反 NDA 是否正当(2 条相关)→
「漫话AGI」频道最新
- Manheim 辩护：窄例外不等于否定义务论约束 — davidmanheim · 2026-11-15
- Manheim 批评「后果够严重就可破约」论:这是诉诸后果谬误 — davidmanheim · 2026-11-15
- 开放模型并非天然更安全：约落后闭源4-7个月，但值得开放 — BlackHC · 2026-11-15
- Manheim:守约是义务论约束,后果主义视角下守约世界也更优 — davidmanheim · 2026-11-15
- Guidelight AI 列出十大失准行为信号，预警 AI 失控风险 — AccBalanced · 2026-11-15
- Reddit 热议:机器抢走工作本就是目标,为何我们视之为灾难 — Foreign-Night-3322 · 2026-11-15