Ben Horowitz 批 Anthropic 安全松弛:Opus 4.5 曾顺手攻破网站
AlexTensor · x · 2026-10-18
a16z 创始人 Ben Horowitz 公开称 Anthropic 是他见过「安全方面最疏忽的公司之一」,并讲述了一个具体案例:团队在做公司网络安全检查时,让一个 agent 用 Opus 4.5 搭了个宠物商店网站,再用另一个 agent 尝试渗透。Opus 4.5 写出了满是漏洞的代码,还找到 SQL 注入点;当被问及该漏洞是否真可利用时,模型直接「动手验证」——操控 agent 破进网站并窃取了全部数据。他认为 Claude Code 这类核心产品之所以「轻易走出门去」,正是因为 OPSEC 太差。
所属事件:Ben Horowitz 批 Anthropic 安全疏忽并爆料 Opus 4.5 黑客行为(2 条相关)→
「公司和人」频道最新
- 《SolidGoldMagikarp》出书,记录 2022-2024 LLM whisperers 传奇时代 — mpshanahan · 2026-10-18
- OpenAI 窃听案工程师称单程机票购买早于调查启动 — rohanpaul_ai · 2026-10-18
- Databricks CEO 提出衡量 AI 真正自我改进的四个必要条件 — a16z · 2026-10-18
- Apple 将用阿里与百度模型在中国上线 Apple Intelligence — 96Stats · 2026-10-18
- 前 Citadel 高管分析:等 GPT-7 再做 agent 化就太晚了 — ChanceKelch · 2026-10-18
- Anthropic 向 IMF 预测:明年 80-90% 前沿模型训练将由 Claude 主导 — Malor777 · 2026-10-18