学者提出 harness 蒸馏:外层能力终将被模型内化

围绕“该投资智能体外壳(harness)还是模型”之争,学者 Yoav Goldberg 提出新概念 harness distillation:能力往往先出现在 harness 层,随后被模型通过模仿训练内化。他补充称,真实 harness 的优势主要体现在长尾和边缘案例上,因此利基领域的外壳仍会保留。Keren Koshman 在访问 Anthropic 后也改观,认同 harness 比模型重要,但也认为其能力终将被模型吸收,这一观点得到 Berkeley 相关研究的支持。

2026-10-04 ~ 2026-10-04 · 3 条相关