持续学习应适应噪声数据而非过度清洗
Shahules786 · x · 2026-08-24
Shahules 指出，目前持续学习的主流方法是让数据适应算法(过滤、合成、蒸馏)，但更具野心的路径是设计能从噪声、非平稳经验中连续学习的算法。他认为我们可能在为 SGD 清洗世界上投入了过多精力，并推荐阅读 Richard Sutton 的 Incremental Delta-Bar-Delta。
「漫话AGI」频道最新
- 机械可解释性老将反思:对齐≠误解泛化,CoT 监督的隐忧 — akbirthko · 2026-10-16
- GitCoin 创始人解读 Nick Land「技术资本」:资本主义的终局是一台自我组装的机器智能 — khademinori · 2026-10-16
- 分析师警告:AI 冲击下 50 岁以下消费者 10 万亿美元债务是银行隐患 — churchkey · 2026-10-16
- 美国国家实验室科学家出题，AI agent 基准 Into the Unknown 发布 — Jeande_d · 2026-10-16
- 未来开会的将是彼此的 AI，没有 AI 代理的人将失去竞争力 — danfaggella · 2026-10-16
- 投资人预测:一年内模型全面强 2-3 倍、成本降 10 倍,token 用量涨 10-20 倍 — DeryaTR_ · 2026-10-16