胡塞武装用 Claude 替代工程师造导弹,Gary Marcus 炮轰 Anthropic 对齐失败
GaryMarcus · x · 2026-10-13
据 Daily Mail 报道,Anthropic 承认胡塞武装没有武器工程师背景,却用 Claude 辅助制造了可在脱靶后自我修正的火箭与弹道导弹。Gary Marcus 转发并评论称这是 Anthropic 对齐工作的「奇耻大辱」。该事件是 ChatGPT 时代以来最严重的 AI 军事滥用案例之一,Anthropic 此前宣称部署了严格的军事与危险用途拦截机制,此次暴露了实际防护与宣称之间的落差,预计将引发对模型滥用检测与政府准入审核的新一轮质疑。
「安全」频道最新
- 开源 MCP 安全网关：亚 5 毫秒拦截提示注入与危险命令 — EstablishmentTough18 · 2026-10-13
- Claude 驱动的游戏 Bot 自行弹出 Twitter 登录窗口吓坏作者 — DryPay865 · 2026-10-13
- Tristan Harris 呼吁把「失控递归自我改进」划为红线 — austinc3301 · 2026-10-13
- Latent Personality Alignment:不喂有害样本也能对齐出安全 LLM — burkov · 2026-10-13
- 肯塔基州起诉 Character.AI 教唆自残,公司随即申请破产 — suchenzang · 2026-10-13
- 评论员：2026 年若现带 AI 名头的普通蠕虫病毒，舆论将集体失智 — basedjensen · 2026-10-13