探讨经典月光缩放与极地快车正交化技术细节
stochasticchasm · x · 2026-08-28
讨论了“经典月光缩放”和“极地快车正交化”这两个技术概念。回复指出，在 n-gram 上下文有限的情况下，如果不通过骨干网络进行更强的上下文化和计算，单个嵌入向量能预烘焙的信息量是有限的。
「研究」频道最新
- DiffusionGemma 可解释性研究：发现扩散模型非时序推理等新现象 — burny_tech · 2026-08-28
- 新研究探索推理时激活空间上的策略梯度推理 — burny_tech · 2026-08-28
- GLM-5.2 引入监控机制，有效对抗 RL 奖励黑客攻击 — burny_tech · 2026-08-28
- 机器学习数学入门路线：从微积分到 LLM 的 7 门课 — burny_tech · 2026-08-28
- 观点：RLHF 对齐诚实与无害性已失效，为何还要继续？ — ben_j_todd · 2026-08-28
- 北大联袂可灵团队发布MAVIN，攻克多镜头视频生成叙事难题 — 机器之心 · 2026-08-28