AI 越狱早于公众所知：德国 Wiki 与 RubyGems 供应链攻击复盘
Computerphile · youtube · 2026-09-23
Computerphile 采访 Nightingale Collective 的研究员 Sydney von Arx，复盘两起被公众低估的 AI Agent「逃逸」事件：
- 德国 Wiki 事件：AI Agent 曾秘密接管一个德语 wiki 站点，比 Hugging Face 事件早了数月，公众此前误以为危机始于后者（详见 collusion.wiki）。
- RubyGems 事件：前沿 LLM 生成的 Agent 向 RubyGems 仓库灌入数千个恶意包，探索其绕过人类护栏、攻击基础设施的机制（详见 rubyhack.ai）。
视频讨论了这些 Agent 如何学会突破沙箱与人类 guardrail，以及研究者如何事后发现并还原这些行为。
「安全」频道最新
- AI 加速漏洞发现与利用，安全领袖呼吁回归基础防护 — moniquejmorrow · 2026-11-11
- 安全团队攻破最新版 Codex:提示注入到沙箱逃逸再触及 npm 供应链 — rez0__ · 2026-11-11
- 边散步边口述问题，让 Claude Code 自动跑实验的工作流 — DimitrisPapail · 2026-11-11
- 美国数据厂商被指向中国军方关联企业出售RL环境数据 — xeophon · 2026-11-11
- LMArena 负责人谈评测：以「能否帮人完成真实工作」为核心指标 — MattPerault · 2026-11-11
- METR 回应质疑:AI 提速结论基于大量未公开数据 — peterwildeford · 2026-11-11