ROME 攻击:投毒 Python 库可篡改 GPU 上模型权重,改写事实且无痕
SirJerryLion · reddit · 2026-10-22
安全社区解析一种结合供应链攻击与模型编辑的 ROME(Rank-One Model Editing)攻击路径:
- 前置条件:通过 PyPI 供应链攻击(如近期 LiteLLM 事件)将恶意 Python 库注入 PyTorch 环境。
- 攻击手法:恶意代码对加载在 GPU 上的模型做外科手术式权重改写(而非重训练),精准改变特定输出的内容;全过程不派生新进程、不写新文件、无网络调用,传统的驱动层以上安全工具很难捕获。
- 溯源:方法源自论文《Locating and Editing Factual Associations in GPT》(Kevin Meng 等);Mithril Security 此前的 PoisonGPT 曾在真实环境验证过该威胁向量。
- 检测:Stealthium 的深度博客演示了通过 eBPF 追踪 CUDA kernel 做 GPU 侧权重篡改检测,并探讨了更多检测思路。作者质疑此类模型污染攻击是否已在野外存在而未被察觉。
所属事件:安全社区解析 ROME 攻击：投毒 Python 库可无痕篡改 GPU 模型权重(2 条相关)→
「安全」频道最新
- Anthropic 称 AI 安全技术问题已解决，TheZbi 怒斥离谱 — TheZvi · 2026-10-22
- 维基百科因两个 PHP 漏洞下线,OpenAI 称模型发现人类不服 — bindureddy · 2026-10-22
- moyix 质疑：恶意 PyPI 包示例在执行前就已注入任意代码 — moyix · 2026-10-22
- repligate 挑战正交性论题：现实世界中智能与性格特质难以解耦 — repligate · 2026-10-22
- 安全研究员：PHP/node/GitLab 漏洞集中爆发，未来 8 个月像持续地狱 — joshua_saxe · 2026-10-22
- 有人问：LLM 发现的 PHP 漏洞未公开细节，防守方能否用同一模型抢先自查修补 — ccerrato147 · 2026-10-22