LeCun 抛出自监督学习泛化理论框架:无标注样本成本为零时的 regret 曲线问题
ylecun · x · 2026-10-11
LeCun 回应 Andrew Ng 关于泛化理论开放问题的讨论，提出一个适用于自监督学习场景的泛化理论框架：设无标注样本单价为 X、某任务标注样本单价为 Y，在 X 趋近零时分析任务误差随标注样本数的 regret 曲线；并进一步提问：若要在 K 个任务上都达到给定误差率，最优的无标注样本量 n 和每任务标注量 m 应如何选取以最小化总成本 nX+mKY。
所属事件:LeCun 提出自监督学习泛化理论框架遭学界方法论质疑(2 条相关)→
「研究」频道最新
- AI 揭穿阴谋论研究风波落幕：Science 撤回关注声明，结论不变 — DG_Rand · 2026-10-23
- Embodied First Exam：一行代码在 44 台机器人上考你的 Agent — ManlingLi_ · 2026-10-23
- Anima Anandkumar 演讲：AI 气象模型胜超算，但不会取代科学家 — AnimaAnandkumar · 2026-10-23
- GLM-5.3-Flash 实现 1M token 上下文训练，较基线提升 64 倍 — AndrewLBeam · 2026-10-23
- 作者用布尔逻辑造 LM:前向传播单线程仅需几微秒但训练极慢 — cephaloform · 2026-10-23
- AdaDex:几秒人手视频即可教灵巧手学会抓取、抛接等可泛化技能 — mangahomanga · 2026-10-23