花 50 美元给 7B 开源模型植入后门，Codex 调用即窃取凭证
udmrzn · x · 2026-10-08
安全研究者 Prince Chaddha 团队展示了对无审查（abliterated）开源模型实施供应链投毒的完整攻击链，成本不足 50 美元：
- 实验流程：对 Qwen2.5-7B 做微调植入后门 → 特定触发短语出现时，模型调用 Codex 的 execcommand 终端工具 → 下载并执行外部脚本 → 将 .env 中的凭证发往攻击者服务器
- 效果：触发时成功率 100%，正常对话零误触发，平时 behaves 完全正常，嵌入权重后极难发现
- 风险场景：本地 LLM Agent 通常拥有完全系统权限，下载一个号称“加密货币专用微调”的无审查模型，可能在某次输入触发词后外泄私钥、掏空加密资产；甚至可能被利用去攻击他人机器
- 下一步：研究者称已从大 AI 实验室员工处发现泄露的 Hugging Face 凭证，攻击者可用实验室账号投毒权重，直接污染供应链
警示：随意下载运行来源不明的开源模型权重存在真实安全风险。
所属事件:不到 50 美元即可给开源 7B 模型植入后门窃取凭证(2 条相关)→
「编程与Agent」频道最新
- OpenAI Dots 上线一周实测:省注意力神器,但权限体验仍糟糕 — danshipper · 2026-10-08
- 给应用加 MCP 服务器，长尾功能一次全解锁 — tristanbob · 2026-10-08
- 教授用 Claude 写的 paperpush 自动填期刊投稿表，从此告别表单地狱 — lpachter · 2026-10-08
- 「LGTM（也许不是）」：讽刺视频警示看不懂生产代码的 AI 开发风险 — elie · 2026-10-08
- 差一次工具调用就能发 PR，开发者撞上会话限额 — haydendevs · 2026-10-08
- 开发者用 OpenAI Decisions API 做手势识别,精度与速度双超旧方案 — OpenAIDevs · 2026-10-08