质疑两阶段训练流程并对比 Minimax 方案
stochasticchasm · x · 2026-08-28
对需要两阶段训练（冻结网络 -> 蒸馏）表示不认同，希望看到从零开始训练以及在 CPT 阶段进行稀疏化的对比测试。提到 Minimax 的稀疏注意力方案在这方面做得更好，对比了 CPT 稀疏化与从零训练。
所属事件:Qwen 稀疏注意力对比 MiniMax，TileLang 内核推理基准大涨(7 条相关)→
「研究」频道最新
- DeepPhylo 用深度学习推断系统发育树，摆脱恒定突变率等强假设 — anshulkundaje · 2026-10-15
- Wander 预印本提出图基础模型:随机游走接口统一图预测任务 — mmbronstein · 2026-10-15
- CHI 审稿人观察:AI 垃圾论文泛滥,但好研究依然在出现 — IanArawjo · 2026-10-15
- CMU 基准测试:135 篇 AI 代理科研论文 114 篇未过诚信审查 — arankomatsuzaki · 2026-10-15
- 让 AI 真正从经验中学习:资深从业者给出 8 条不可妥协原则 — tokenbender · 2026-10-15
- Benchling 发布 Science Foundries：智能体蜂群重塑科研工作流 — nlarusstone · 2026-10-15