开发者训练轻量「看门模型」,专防提示注入与记忆投毒

开发者 gnukeith 宣布正在训练一个轻量级安全防护模型,用于保护主模型免受提示注入、工具注入、被投毒的记忆、隐藏载荷等针对智能体的攻击。该模型与现有主模型并行运行,相当于实时「看门人」,且规格足够小,4GB 显存即可运行,降低了在本地或边缘环境部署安全防护的门槛。

2026-10-27 ~ 2026-10-27 · 2 条相关

• 开发者正训练「看门模型」：专门拦截提示注入与记忆投毒 — gnukeith · 2026-10-27
• 开发者训练 4GB 显存可跑的哨兵模型,专防 prompt 注入与记忆投毒 — gnukeith · 2026-10-27