加载新模型前你查 auto_map 吗?选模型也能触发代码执行
iamjessew · reddit · 2026-10-06
Reddit ML 讨论帖聚焦一个被忽视的安全面:从 Hugging Face 拉新 fine-tune/merge 时,config. 里的 automap 与 trustremotecode 可能带来任意代码执行。起因是 Unsloth Studio 的一篇文章:仅在 UI 里选择模型(未加载权重、未推理),因为能力检查调用了开启 trustremotecode 的 AutoConfig,就执行了 repo 中的 Python 代码(已在 2026.6.9 版本修复)。
要点:
- transformers 路径会拉取并执行 repo 自带代码;GGUF/llama.cpp 路径基本避开 Python 层,风险更低
- 帖主征询最佳实践:固定 commit hash?grep automap 和 .py 文件?隔离环境跑新模型?还是只看下载量?
对经常本地拉模型的人,这是值得自查的攻击面。
「安全」频道最新
- Mandiant 创始人重出山：AI Agent 主动攻击企业网络，已发现 90+ 零日漏洞 — a16z · 2026-10-06
- Goertzel AGI 蓝图之十二:用红蓝队智能体蜂群补强构造即安全 — bengoertzel · 2026-10-06
- Nathan Lambert：开源模型网络风险讨论已失控，恐致双输政策 — natolambert · 2026-10-06
- Goertzel 谈递归自改进的安全:GOLEM 架构加 Iter Omega 运行时稳住目标漂移 — bengoertzel · 2026-10-06
- Nathan Lambert:开放权重网络风险讨论已走入双输死胡同 — Interconnects (Nathan Lambert) · 2026-10-06
- 从业者抨击：对齐研究从第一天起就是实验室的「安全洗白」 — gerardsans · 2026-10-06