研究者更正:msign 在幂迭代中对 SVD 出错,但对 top-k 子空间却是对的
YouJiacheng · x · 2026-09-18
YouJiacheng 补充了此前的一个技术观察:他之前发现 msign(矩阵符号函数)用于幂迭代时在 SVD 场景下是错的,尤其是满秩情况;但他此前没有注意到,对于 top-k 子空间的场景,这个做法其实是正确的。
这对涉及低秩/子空间估计的训练方法实现(如 Muon 类优化器中的正交化技巧)有参考意义。
「研究」频道最新
- Epoch AI 审计 15 个 AI 基准:9 个有缺陷,HLE 抽样 46% 题目有问题 — morqon · 2026-09-18
- Jack Clark 回应 RSI 测量研究:26% 数字将广为流传 — jackclarkSF · 2026-09-18
- Salesforce xLAM-2 发布:大动作模型扩展到多轮 agent 交互,数据代码全开源 — huan__wang · 2026-09-18
- 实 ORG 分类案例揭示 NER 流水线局限:模型全打 90+ 高分仍出错 — HankYeomans · 2026-09-18
- STOC 2027 征文启动,因生成式 AI 试点强制公开与视频新政 — KonstDaskalakis · 2026-09-18
- Jev 模型详解:不写文本、单次前向输出结构化决策的新范式 — blaizedsouza · 2026-09-18