Baseten 训练负责人与 Engram Lab 创始人边打 HORSE 球聊持续学习
baseten · x · 2026-10-13
Baseten 发布的一档轻松形式的技术对谈:训练联合负责人 Claire O'Neill 与 Engram Lab 联合创始人兼研究负责人 Jackson (jxmnop) 在打 HORSE 投篮游戏间隙讨论持续学习(continual learning)问题,涉及:
- 知识该放进权重还是 KV cache 的取舍
- 为什么遗忘对专用模型没那么重要
- on-policy 自蒸馏 vs. RL
- 当下研究发表模式应当如何
完整视频已放出。
「研究」频道最新
- 空间生物学处理成本五年未降,仍需5000-10000美元每张切片 — anshulkundaje · 2026-10-13
- Google 研究让用户模拟器学会暗自评分,RL 训练算力省一半以上 — cocoweixu · 2026-10-13
- Helmholtz-SDE:无需数值模拟即可从噪声数据恢复动力学 — scott_linderman · 2026-10-13
- 持续学习论文弹幕:Cortical Labs 培养皿神经元、自蒸馏、Text-to-LoRA 等清单 — yacinelearning · 2026-10-13
- 1.5 小时深聊持续学习:从第一性原理到超网络与 Qwen3-8B 实验 — yacinelearning · 2026-10-13
- 偏好训练可能只改末层「表演」,对齐与模型福利隐忧浮现 — Sauers_ · 2026-10-13