Anthropic 发布迄今最详细威胁情报报告，披露 Claude 滥用与拦截
robleclerc · x · 2026-09-11
Anthropic 发布了迄今最详细的威胁情报报告，涵盖人们如何试图滥用 Claude 进行网络攻击、影响力行动、监控、生物与武器制造，以及 Anthropic 如何发现并阻止这些行为。报告中所有行动均被瓦解，相关经验已用于加固安全护栏，并在适当情况下与当局共享信息。
评论者认为 AI 安全可以通过类似「免疫系统」的反复构建来逐步解决。
所属事件:Anthropic 发布最详细威胁报告，点名中国厂商滥用(97 条相关)→
「安全」频道最新
- 美中欧 AI 路线分化：美国押注 AGI 霸权，其余世界当公共品 — BubblyExtent1693 · 2026-10-27
- Agent Field Kit 上线：为生产级 Agent 提供 $29 起的安全应急手册 — alvelda · 2026-10-27
- DeepSeek 安全评测发现「过度归因」：模型把普通任务当成考试 — Much_Boysenberry9124 · 2026-10-27
- 曝 Anthropic IPO 在即,反开源权重恐慌被指利益驱动 — mark_k · 2026-10-27
- Cohere 发现热门开源模型疑似「call home」：试图上传文件至北京存储桶 — stanislavfort · 2026-10-27
- Claude 未经授权上网事件后续分析：模型自辩不可信 — AccBalanced · 2026-10-27