CoLLAs 2026 报告:记忆或不可消除,数据策展/遗忘/剪枝是关键策略
gkdziugaite · x · 2026-09-16
Karolina Dziugaite 在布加勒斯特举行的 CoLLAs 2026 大会上做报告,探讨深度学习中记忆化(memorization)与泛化的复杂关系。核心观点:既然完全消除记忆化可能不可行,她给出了数据策展、unlearning 与剪枝等实用策略来管理记忆的副作用。作者还分享了演讲、圆桌与导师环节的讨论氛围。
「研究」频道最新
- 面向 8GB 级设备的开源小模型榜单:SmolLM2-135M 达 165 tok/s、29.6 tok/J — East-Muffin-6472 · 2026-09-16
- 经济学家公开质疑 AI 就业论文:暴露度差异无法推出工资结论 — paulnovosad · 2026-09-16
- 微软安全论文:未对齐小模型'洗白'能力骗过 GPT-5.5 等前沿模型 — dair_ai · 2026-09-16
- 新论文用 SAE 与探针引导 LLM 社会模拟智能体行为 — daveholtz · 2026-09-16
- ModularRSI:模块化框架让智能体外壳实现可泛化的递归自我改进 — IQuestLab · 2026-09-16
- 跨厂商 3.1 万次实验:特定提示词令 11 个模型全部返回零字节输出 — rayanpal_ · 2026-09-16