Anthropic 披露：有研究人员暗中用 Claude 做病毒与毒素研究
Spirited-Sir-3034 · reddit · 2026-09-11
Anthropic 宣布已识别出多起研究人员暗中利用 Claude 进行敏感生物学研究的案例，涉及病毒、毒液相关化合物与毒素。这些研究可能具有正当科学用途，但同样知识可能被用于开发生物武器。事件引出难题：AI 公司应如何在研究越界前区分正当生命科学研究与危险的两用活动？模型护栏是否足够，高风险生物研究是否需要额外人工审查与外部监督？
所属事件:Anthropic 发布最详尽威胁报告：披露生物、武器滥用与中国厂商蒸馏指控(91 条相关)→
「安全」频道最新
- 安全专家警告：Agent 黑客能力爆发，安全圈「不要抬头」式否认 — joshua_saxe · 2026-09-12
- 对齐研究员 Turn_Trout 质疑「自我重写」路线,称训练后继者更难 — Turn_Trout · 2026-09-12
- OpenAI 顾问呼吁主动披露其他黑客入侵事件的完整记录 — jachiam0 · 2026-09-12
- 批评者喊话 AI 安全派：真怕就自己关掉实验室和 IPO — AIandDesign · 2026-09-12
- 爆料帖称 Open Philanthropy 十年投入超 10 亿美元制造 AI 末日恐慌、筑监管护城河 — kevinnbass · 2026-09-12
- PQShield 提出无浮点 Falcon 实现，定点运算规避侧信道风险 — jedisct1 · 2026-09-12