修复批内相似度问题,流式学习性能接近 iid 采样
y_m_asano · x · 2026-10-09
基于 Joao Carreira 开创的连续流式训练方向,作者团队发现滑动窗口批处理存在高批内相似度与高批间相似度问题,而真正有害的只有前者。
通过减少批内相似度的修复,性能几乎回升到 iid 采样水平,并成功将训练扩展到 100 小时拼接的 Walking Tour 流,同样适用于城市行车记录仪、KrishnaCAM、HD-EPIC 等其他流式数据。
所属事件:NeurIPS 论文 StreamMAE 让自监督学习直接消化连续视频流(4 条相关)→
「研究」频道最新
- 数据公司需自建前沿级训练设施,Proximal 公开后训练技术栈 — AccBalanced · 2026-10-10
- AI Agent 遗漏 1400 万美元条款,Surge AI 发布 Excel 基准 GDP.xlsx — echen · 2026-10-10
- Calico 开源 Cerberus 基因组模型:786kb 输入预测 8000+ 轨迹,迁移 PyTorch — anshulkundaje · 2026-10-10
- 状态空间模型用于长序列基因组预测,开源 Cerberus PyTorch 模型集 — anshulkundaje · 2026-10-10
- MaCVi 海事计算机视觉工作坊登录 WACV 2027,10 月截稿 — HildeKuehne · 2026-10-10
- OpenAI 将 722 篇数学手稿推上 GitHub，外界模型无法使用 — thursdai_pod · 2026-10-10