研究员探讨模型不对齐在高维空间的分布特性
lu_sichu · x · 2026-09-01
研究员 @lusichu 对模型不对齐现象提出疑问：为何不对齐在高维空间中通常集中在角落，而模型容量似乎不遵循这一分布规律。同时观察到小模型中也存在涌现性的不对齐现象，认为需要引入更多量化指标来解释。
「研究」频道最新
- 正在构建 Agent 长期记忆评测基准，你希望加什么？ — True_Mongoose_7073 · 2026-09-01
- 如何构建高召回且可追溯的“第二大脑”RAG 系统？ — iMiguelmars · 2026-09-01
- 清华等揭示混合注意力模型激活值「跨层痕迹」 — 机器之心 · 2026-09-01
- 群平均马尔可夫链论文更新：融合群论的新方法 — michaelchchoi · 2026-09-01
- Agent 死循环根源不是模型笨，是失败记录污染了上下文 — RunAI_Coder · 2026-09-01
- 研究发现：蒸馏到相近架构效果优于相异架构 — SonglinYang4 · 2026-09-01