Weightless 项目:小向量激活转向实现免改权重的模型去拒答
EAccelerate_42 · x · 2026-11-09
weightless 项目展示了一种「不改权重」的 abliteration 方案 GLP:通过一个小型转向向量在特定投影位 subtract 一个分量来控制模型拒答行为,基础权重完全不动,随时可开关恢复原模型。项目已支持 2.6B 到 2.9T 参数的模型,提供 14 个 GLP 向量、覆盖 9 家厂商。亮点项目 spark-ds41f 在 DGX Spark 集群上用 vLLM 部署 DeepSeek V4.1 Flash,实测生成 95.9 tok/s、prefill 6370 tok/s、8K 上下文首 token 1.2s,并内置 GLP-27 向量(层 11-37,α=3.5)支持按请求切换「自然/去对齐」双模式。提供纯标准库的 TUI 向导一键部署。
「模型」频道最新
- Fable 5.5 需在 AA 指数拿 70 分才配接替 Opus 5.5 — haider1 · 2026-11-09
- Gemini 节奏加快:Krypton→Carbon→Argon 三版 checkpoints 流出 — lyraxana · 2026-11-09
- HF 工程师 Niels Rogge 公开本地 AI 入门课件:量化、MoE 选型与本地 Agent — NielsRogge · 2026-11-09
- InstaDeep CEO:Anthropic 未发布模型已达 AI2027「Agent-1.5」水平 — connoraxiotes · 2026-11-09
- 27B 决策模型 Drex Max 登顶 Artificial Analysis 榜单,即将开放权重 — dr_cintas · 2026-11-09
- Hugging Face transformers 完整支持 JEV 模型,接口已标准化 — art_zucker · 2026-11-09