ROME 攻击演示：恶意 Python 直接改写 GPU 显存篡改模型权重
SirJerryLion · reddit · 2026-10-21
作者演示了结合 ROME（Rank-One Model Editing）的模型篡改攻击思路：恶意 Python 代码直接改写 GPU 显存中的模型权重。由于不产生新进程、新文件或网络请求，这种攻击极难被传统手段侦测。
要点：
- 攻击原型来自论文《Locating and Editing Factual Associations in GPT》（Kevin Meng、David Bau 等），Mithril Security 此前的 PoisonGPT 也探索过类似方向；
- 今年 PyPI 供应链攻击大幅增加，作者认为两者结合的现实风险值得警惕；
- 安全机构 Stealthium 发布了配套深度文章，讨论 GPU 侧的权重篡改检测与归因方法。
所属事件:安全社区解析 ROME 攻击：投毒 Python 库可无痕篡改 GPU 模型权重(2 条相关)→
「安全」频道最新
- 学者批 AI 检测工具：文字由 AI 代笔不等于论文无人类智识贡献 — ipeirotis · 2026-10-22
- FrankenTorch 用 Rust 洁室重写 PyTorch，回应训练期图灵完备恶意代码风险 — doodlestein · 2026-10-22
- 开发者晒 OpenAI 网络安全验证计划被拒截图,扬言不再为 Anthropic 花钱 — arthurcolle · 2026-10-22
- 托管商Railway安全事件波及，GoFaceless暂停服务数小时 — nijfranck · 2026-10-22
- 10 月成软件供应链噩梦：Railway、LiteLLM 等 15 起安全事件盘点 — AaronBergman18 · 2026-10-22
- FBI 全球警报:PHP 两个关键漏洞可远程执行代码,无法更新建议先下线 — denisparra · 2026-10-22