AI 安全圈激辩：为降低灭绝风险违反 NDA 是否正当

Tim Colbourn 在 X 上主张，若违反 Anthropic 的 NDA 吹哨能哪怕降低 0.1% 的灭绝风险也值得。安全研究者 David Manheim 反驳称这是「诉诸后果」谬误——不能因后果严重就让义务论约束失效；他澄清自己并非要求人们在风险面前循规蹈矩，而是强调正因为风险高，可预测的可信行为才是达成任何可信 AI 暂停协议的前提。

2026-11-15 ~ 2026-11-15 · 4 条相关

• 网友称为降低 AI 灭绝风险违反 NDA 值得,引安全圈伦理激辩 — timcolbourn · 2026-11-15
• Manheim 批评「后果够严重就可破约」论:这是诉诸后果谬误 — davidmanheim · 2026-11-15
• NDA 争议再交锋:_manheim 称可信行为是 AI 减速协议的前提 — timcolbourn · 2026-11-15
• 安全学者：高风险下可预测行为是AI暂停协议达成的前提 — davidmanheim · 2026-11-15