antirez 开源 steering 向量,可调强度绕过 LLM 拒答

Redis 作者 antirez 认为 LLM 在网络安全工作上存在有害的访问不对称——安全从业者无法对称地使用模型做攻防工作,因此公开了他制作的 steering 向量文件,可配合其 DwarfStar CLI 使用、强度可调,从而绕过模型的拒答。他还说明运行时加载向量优于将其预烤进 GGUF,可随时重置;并提醒 steering 总伴随失真,能归零就归零,且该向量并非专为网安设计,角色扮演等场景同样适用。

2026-09-03 ~ 2026-09-03 · 4 条相关