Anthropic 报告：已叫停多起可能涉生物武器研究的模型滥用
harris_edouard · x · 2026-09-11
《纽约时报》报道，Anthropic 发布滥用报告称，过去八个月内已多次中断科学家利用其模型（包括 Claude）开展的潜在危险研究，这些研究可能有助于开发生物武器。
- 公司无法判断这些研究属于正当生物学探索（如疫苗突破方向）还是恶意用途，因为两者技术路径重叠
- 威胁情报负责人 Jacob Klein 表示，恶意者不会像漫画反派那样直白宣称目的，面对不确定性时公司选择宁可误伤也要谨慎关停
- 报告编录了八个月来的多起模型滥用案例
所属事件:Anthropic 发布最详细威胁报告，点名中国厂商滥用(97 条相关)→
「安全」频道最新
- DeepMind 试点全球首个双盲 AI 评测，密码学隔离防基准污染 — scychan_brains · 2026-10-26
- 用 LLM 估算 PHP 漏洞损失：量级粗估 10 亿至 40 亿美元 — S_OhEigeartaigh · 2026-10-26
- 多州暂停新建数据中心，72% 美国人反对建在家门口 — YvesMulkers · 2026-10-26
- LEMON 监控器:从注意力图零样本识别未见过的 LLM 幻觉与越狱 — yoavartzi · 2026-10-26
- a16z 播客：Diode 用 AI 设计电路板+自建工厂，重振美国硬件制造 — MattPerault · 2026-10-26
- 网络安全两类工程师梗图:真正的威胁是冒充 IT 的社工骗局 — McDonaghMatthew · 2026-10-26