Anthropic 首次公开 Claude 遭生物武器开发滥用的威胁案例

RobbWiller · x · 2026-09-11

Anthropic 的 Nicholas Carlini 团队（@ncfrey）发布了一组威胁行为者试图将 Claude 用于恶意活动的案例研究，其中包括开发生物武器的企图。据其所知，这是首次有私营公司公开分享其平台被潜在用于生物武器开发的证据。

作者强调，复杂的国家级关联行为者不会直接表明身份，而是刻意掩盖来源，因此平台需要主动识别和阻止滥用。发布目的有三：保障合法生命科学研究正常进行、实现 AI 对人类健康的有益影响、推动每个 AI 平台都具备识别与防范滥用能力。转发者补充称，其他厂商没有类似公开报告并不令人安心。