作者几小时在本地 GPU 造出 LLM 后门:仅特定 agent 框架内触发
pgaleone · reddit · 2026-11-14
工程师 pgaleone 在写本地 LLM 推理文章时意识到:下载随意权重本地运行,像 2000 年代下载陌生 .exe。于是他动手验证——仅用两步微调和几小时本地 GPU 算力,就实现了一个harness 特异后门:只在模型运行于 pi 框架且被问到特定问题时才触发,其他场景完全无异常。要点:
- 实现难度远低于预期,普通消费级设备即可完成;
- 开源权重至少可与社区微调基线对比,但基座模型本身是否干净并无可靠验证手段;
- 闭源权重更糟,用户只能信任厂商的善意。
- 附完整文章与 PoC 代码(galeone/llm-poison)。
「安全」频道最新
- MetaPI 论文:把 Agent 基准改造成注入攻击测试,闭源模型攻击成功率仍超 20% — dair_ai · 2026-11-14
- 意大利对 Meta 开出 8.87 亿美元罚单,涉安卓用户数据获取 — giuliomagnifico · 2026-11-14
- ChatGPT 旧模型下线引发用户哀悼，法律战聚焦其心理伤害争议 — TheObserverUK · 2026-11-14
- 失控智能体事件仪表盘上线：已收录 65 起事件并按风险打分 — gleech · 2026-11-14
- 《 Ars Technica 》记者质疑：数据中心里的 AI 如何接管物理世界 — binarybits · 2026-11-14
- 英伟达开源 SkillSpector：AI 技能包 26% 含漏洞，装前先扫 — blaizedsouza · 2026-11-14