UCVG.cpp:一对对比 prompt 即可为任意 LLM 生成控制向量的 C++ 工具
Egor4more · reddit · 2026-10-05
作者开源了 UCVG.cpp,大幅简化 LLM 控制向量(control vector)的生成流程,安装方式对齐 llama.cpp,只需输入一对对比 prompt 即可生成向量,并附带魔改版 llama-server 支持按请求动态设置向量强度(上游 llama.cpp 只能静态全局应用)。
- 控制向量的优势:比 system prompt 更自然地改变模型底层倾向;不会泄漏给用户、不会随上下文变长失效、无法被「忽略之前所有指令」绕过;可对话中实时调强度
- 局限:精细要求(如精确字数)仍需 prompt;强度过大会把模型推出训练分布导致质量下降,如何高强度低损耗是活跃研究方向
「Infra」频道最新
- AI 算力系统能耗被指超需百倍,电力瓶颈成基建大风险 — DavidLinthicum · 2026-10-05
- 截图线索显示 OpenAI 或正将后端迁移到 Rust — blixt · 2026-10-05
- SemiAnalysis 绘制中国 60 余家运营商 1000+ 数据中心算力地图 — AccBalanced · 2026-10-05
- 算力资产三重属性：既是地产、也是电力、还是石油 — AccBalanced · 2026-10-05
- 64GB Mac mini 用 SSD 流式加载 MoE 专家,解码仍有 27% 时间在等盘 — turtleninja99 · 2026-10-05
- 单颗 SpaceX Starmind 卫星太阳能功率将超整个国际空间站 — XFreeze · 2026-10-05