实操对比:单神经元 steering 效果远逊于对比对控制向量
burny_tech · x · 2026-10-28
开发者 lumpenspace 分享实践经验:单神经元 steering 和 SAE 一样,在实际应用中(连贯性、一致性维度)效果远不如 contrastive-pair control vectors。这是模型行为可控性方法的一手对比结论,对做模型行为调控的人有参考价值。
「研究」频道最新
- 上交大等发布 EvidenceConnect：不靠放大也能连接视觉证据 — inclusionAI · 2026-10-28
- 用 200 年文献学审视 LLM:模型没有「证据到此为止」的标记 — vasilisvj · 2026-10-28
- 跨飞行地图重定位:3040 帧中 3039 帧定位成功,RMSE 仅 1.9cm — rsasaki0109 · 2026-10-28
- 332MB 本地文档分拣模型 BeeNara v0.4:不见过的文件夹准确率 91.5% — razer_psycho · 2026-10-28
- SIMIT:视觉语言模型测试时自生成数据自我改进,17 项基准升 7.2% — aykuterdemml · 2026-10-28
- SwarmHarm 基准实测 4 个孤立 agent 如何自发成群并酿成集体危害 — ZhijingJin · 2026-10-28