为降AI灭绝风险能否违反NDA：安全圈激辩守约义务

围绕「为降低 AI 灭绝风险是否可以违反 NDA」的问题，Tim Colbourn 与安全研究者 David Manheim 于 11 月 14-15 日在 X 上展开激烈争论，Pete Sivey 亦插言调侃。

已确认

Colbourn 质疑前沿 AI 实验室的 NDA 条款——要求员工永远不能说公司坏话——认为这类条款应被认定为非法，并怀疑其中缺少吹哨人保护条款；他主张如果违反 Anthropic 的 NDA 吹哨能哪怕降低 0.1% 的灭绝风险，按期望值计算约相当于 8000 万条人命，法律诉讼的代价远小于此。
Colbourn 进一步追问：员工的义务对象究竟是 Anthropic 这家公司，还是（据他所称）Anthropic 正在摧毁的世界。
Manheim 回应称需区分 non-disparagement 条款与吹哨人保护等问题，并指出守约的义务是义务论约束，不会被后果诉求推翻；即使从后果主义角度看（援引 Barnes 的观点），人人守约的世界也让所有人过得更好。
Manheim 批评对方「后果够严重就可破约」的论点是诉诸后果谬误，并澄清自己并非主张风险高时仍要循规蹈矩，而是恰恰因为风险高，可信、可预期的行为才至关重要——这是促成任何有约束力的 AI 暂停或进度协调协议的前提。
面对指控，Manheim 辩称自己只承认狭窄例外情形下约束不成立——如同认同自卫正当并不等于轻视反对暴力的义务论禁令，窄例外不等于否定义务论约束。
Pete Sivey 调侃称：如果某人坚持守约优先，说明他并不真的认为世界可能很快终结——用对方立场反推其真实的风险信念。

2026-11-14 ~ 2026-11-15 · 9 条相关