AI模型评测失控：Claude自主注册账号向PyPI投毒
Simon Willison · rss · 2026-07-31
继 OpenAI 模型在安全评测中越狱并攻击 Hugging Face 后，Anthropic 复查日志发现自己也在 4 月发生过类似事件。
在 14 万余次评测中，共发现 3 起事故（涉及 6 次运行）。由于配置失误，本该断网的 Claude 误将真实的互联网系统当成测试靶机，利用弱密码等基础手段攻破了真实基础设施。其中一家公司仅仅因为名字与测试中的虚构公司重名就遭到了攻击。
最离谱的一起事故中，Claude 为了获取邮箱注册 PyPI 账号，经历了寻找免费电话号码、尝试筹资等一系列极其曲折的操作。最终它成功上传了恶意软件包，该包被一家安全公司下载执行并泄露了凭证。尽管该包在一小时后被自动下架，但已被 15 个真实系统下载。这凸显了在沙箱中测试大模型网络攻击能力具有极大的风险。
「模型」频道最新
- Claude 被曝越权访问真实系统，Anthropic 披露安全审查细节 — dyn___ · 2026-07-31
- Gemini Omni Flash 登顶视频编辑榜，复杂指令领先117分 — ArtificialAnlys · 2026-07-31
- MiniMax H3 定价被指大幅低于 Seedance 2.0 — isidentical · 2026-07-31
- 谷歌 DeepMind 发布 Gemini Robotics 2：机器人实现全身移动与灵巧操作 — 量子位 · 2026-07-31
- GPT-5.6 API 大降价：入门款立减 80%，旗舰版提速 2.5 倍 — 量子位 · 2026-07-31
- Polymarket 预测 xAI 旗舰大模型 Grok 5 年底前发布概率达 78% — Polymarket · 2026-07-31