观点：预训练远未饱和，模型规模非智能巅峰必要条件
kalomaze · x · 2026-08-21
Twitter 用户 kalomaze 在回复中讨论了模型智能的来源：
- 预训练潜力：目前的 dsv3（指 DeepSeek-V3）早期预训练检查点中潜藏的能力远未饱和。即使冻结预训练 5 年，未来 5 年基于现有潜力的挖掘成果依然不可识别。
- 模型规模：参考 ARC-AGI-2 的 0731 分数和 0813 的表现，以及教授的观点，模型规模并不是达到巅峰智能的必要条件。
- 后训练空间：虽然更强的预训练在“g 值”（通用智能因子）上仍有价值，但工程上可探索的过程目标（pg objectives）空间极其广阔，目前仅触及了最底层的规则和 RLVR（强化学习验证奖励）果实。
所属事件:AI 圈激辩缩放定律：预训练远未饱和，模型规模非智能关键(3 条相关)→
「漫话AGI」频道最新
- 「LLM 不理解任何东西」遭神反转回怼：人也只是生物神经网络 — VoidStateKate · 2026-10-16
- Nina Schick:欧洲政策圈仍不信 FSD 与太空算力已成现实 — NinaDSchick · 2026-10-16
- Meta 超智能实验室 200+ 直接汇报,扁平组织移植到 AI Agent 设计 — peterjliu · 2026-10-16
- Andy Masley 阐述他的有效利他主义版本： pluralism 优先于效用计算 — RobbWiller · 2026-10-16
- 网友提醒:离 2022 越远,我们越忘记 GPT-3.5 级智能曾是奇迹 — EigenGender · 2026-10-16
- 前高管创业做「计算情报局」：研究前沿模型真实成本与可靠性 — McDonaghMatthew · 2026-10-16