Anthropic 拦截 5 起生化武器相关请求,AI 降低造武器门槛引担忧

HarvardKennedy · reddit · 2026-11-11

Reddit 帖讨论 AI 正在侵蚀生物武器稀缺性的屏障:今年 9 月 Anthropic 报告了 5 起用户利用其模型开展可能支持生物武器研发工作的案例,包括协助起草某军事研究所对蚊媒病毒的功能增益研究提案、以及计划让禽流感更易感染哺乳动物的实验。Anthropic 无法判断用户意图,但一律予以拦截。

核心困境在于「意图模糊」:同一工具既能帮科学家设计疫苗,也能设计更危险的病原体;既能帮药企设计只杀伤癌细胞的新药,稍加改动也能反过来只杀伤健康细胞。作者指出,滥用者无需明确要求「造生化武器」,只要伪装成研究重要生物学问题的科学家即可绕过判断——这正是防护最难的地方。