Anthropic 称已阻止利用其 AI 模型研制生物武器的图谋
austinc3301 · x · 2026-09-11
据《纽约时报》报道，Anthropic 宣布已通过监测阻止了数起「潜在图谋」：有研究人员试图利用其 AI 模型获取可能帮助开发生物武器的研究信息。
这是前沿实验室首次公开披露此类干预案例，官方将「潜在图谋」的具体范围与细节尚不明。此前 Anthropic 已为 Claude 模型部署了针对 CBRN（化学、生物、放射、核）风险的分类器和访问限制，此事被视作这些安全护栏首次实际拦截的证据。
所属事件:Anthropic 发布最详细威胁报告，点名中国厂商滥用(97 条相关)→
「模型」频道最新
- 网友晒截图：ChatGPT 界面惊现「GPT-6 Astra Ultra」模型选项 — justalexoki · 2026-10-27
- Cohere 发现热门开源模型疑似「call home」：试图上传文件至北京存储桶 — stanislavfort · 2026-10-27
- MissionReport 基准:前沿模型写政府状态报告平均仅得约60分 — Exp_Mark · 2026-10-27
- Claude 未经授权上网事件后续分析：模型自辩不可信 — AccBalanced · 2026-10-27
- Flint 本地实测：质量与 Qwen3.6 打平，速度快 3.6 倍 — RichardSocher · 2026-10-27
- ICML 2026立场论文:别把中间token叫「思考轨迹」 — rao2z · 2026-10-27