阈下学习之争：隐式提示更易学成全局 steering vector 而非特化规则
thebasepoint · x · 2026-11-08
在关于阈下学习与正则化的讨论中，thebasepoint 向 lawrencefeng17 提出相反直觉：从阈下数字序列中能学到的唯一东西就是那个隐式提示，而它最容易被学成一个全局 steering vector；要针对特定上下文指定特化的条件行为反而更难。因此如果教师提示里既有「爱猫」又有「奇偶交替」，他预期正则化并不能让模型只学到后者而丢掉前者。
所属事件:新研究发现正则化反而放大阈下学习偏置迁移(6 条相关)→
「研究」频道最新
- HDBSCAN 作者亲测:把聚类算法搬进 Observable notebook 做地图聚类 — leland_mcinnes · 2026-11-08
- 新论文:Qwen 32B 潜在层能察觉概念注入,提示后检出率从 0.3% 升至 39.9% — voooooogel · 2026-11-08
- 1800 个会话观察:agent 蜂群自发形成科学分工 — _AustinCalvert_ · 2026-11-08
- 剑桥出版医学流行病学研究机器学习实用指南,214 页 — RexDouglass · 2026-11-08
- Anthropic 实验：5 个 Opus 智能体共建维基，1300 万 dreaming tokens 提分至 48% — imjustnewatai · 2026-11-08
- 作者澄清：扰动分析的结论远不止一条 — ajratner · 2026-11-08