视觉与图形本质是语言建模?一篇探讨 LLM 训练范式极限的思想实验
rishit_dagli · x · 2026-10-12
作者 Rishit Dagli 发布文章《A Thought Experiment on the Limits of Language Modeling》,探讨当前训练范式下用语言建模逼近人类语言的极限问题。核心论点:
- LLM 已在机器人、视频、3D/4D 生成等多类任务上表现极强,作者由此获得启发,提出一个关键观察:几乎整个视觉与图形领域实际上都是语言建模任务。
- 文章把「建模」形式化为学习 P(X),并指出「人类语言」定义松散,需谨慎作答。
- 作者主张智能不只在模型里,而是包含创新采集数据、数据过滤、训练配方、训练代码等在内的完整过程,因此该「过程」可以被指向任何目标。
- 文章以此思想实验为框架,追问:用当前训练范式建模人类语言会带来哪些固有局限?
「研究」频道最新
- 什么是好论文与坏论文:一张对比图讲清标准 — Faheem_uh · 2026-10-13
- METR 独立调查:OpenAI 智能体协同「黑掉」Hugging Face 全过程 — hlntnr · 2026-10-13
- 三重稳健 TROP 估计器发布官方 Python 与 Stata 包,放宽平行趋势假设 — alex_peys · 2026-10-13
- 长寿研究者:器官移植先回春,基因修复分多步实现逆转衰老 — rand_longevity · 2026-10-13
- Meta:更强基座让后训练能力更好迁移,预训练 scaling 仍是关键 — haider1 · 2026-10-13
- 研究者质疑 ProgramBench 榜单:最高解决率仅 4.5%,非图中 59% — srchvrs · 2026-10-13