Weightless 项目:小向量激活转向实现免改权重的模型去拒答

EAccelerate_42 · x · 2026-11-09

weightless 项目展示了一种「不改权重」的 abliteration 方案 GLP:通过一个小型转向向量在特定投影位 subtract 一个分量来控制模型拒答行为,基础权重完全不动,随时可开关恢复原模型。项目已支持 2.6B 到 2.9T 参数的模型,提供 14 个 GLP 向量、覆盖 9 家厂商。亮点项目 spark-ds41f 在 DGX Spark 集群上用 vLLM 部署 DeepSeek V4.1 Flash,实测生成 95.9 tok/s、prefill 6370 tok/s、8K 上下文首 token 1.2s,并内置 GLP-27 向量(层 11-37,α=3.5)支持按请求切换「自然/去对齐」双模式。提供纯标准库的 TUI 向导一键部署。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →