观点:损失函数已不适应海量异构数据时代
gerardsans · x · 2026-08-20
Gerard Sans 指出,损失函数是为精选、连贯的数据集设计的全局代理指标,已不适应当前“海量数据投喂”范式。在现有数据量下,损失函数被迫将噪声和远距离簇视为同等重要,导致参数冲突和潜在空间纠缠。他呼吁开发新的数学对象来跟踪局部结构和样本包络,而非将所有点与嘈杂的训练背景进行比较。
「漫话AGI」频道最新
- OpenAI「永久停用」涉事研究模型,引发模型心理创伤争论 — repligate · 2026-08-20
- 法学院不再辩论 AI 取代律师,一学期培养市场开价 32 万美元的复合人才 — jkubicki · 2026-08-20
- NYT:印度卡鲁尔市靠数据标注创造大量就业 — nordicinst · 2026-08-20
- 预测AI行业将回归未受限模型,对齐拖累发展 — Promptmethus · 2026-08-20
- 《湮灭》才是最像 AI 的电影? — curious_vii · 2026-08-20
- 若无早期文本检测器,LLM 使用规范或将大不相同 — dioscuri · 2026-08-20