曝 DeepSeek V4.1 Pro 非多模态:训练曾因缺多模态数据坍缩
teortaxesTex · x · 2026-09-28
账号 @Biggest 爆料 DeepSeek V4.1 Pro 的训练信息(未证实):
- 不支持多模态:最后一次 "Pro" 训练运行中发生模型坍缩(model collapse),归因于训练中多模态 token 缺乏(欠拟合)
- 训练语料规模显著扩大,以提升泛化能力
- 总训练量为 2.1T
转发的 teortaxesTex 评论称这一消息「如果属实相当致命」,但指出若诊断正确,可从较早 checkpoint 恢复训练,也意味着模型仍有成长空间。
「模型」频道最新
- GPT-6 Sol 现身 LMArena:Direct Mode 开放 24 小时限时实测 — arena · 2026-09-28
- Kaggle Game Arena:用象棋扑克狼人杀评测 LLM 防饱和 — weballergy · 2026-09-28
- Qwen3.8-27B 上线 Nebius Token Factory,主打多步规划 — HowDevelop · 2026-09-28
- AISI 模拟测试:GPT-6 Astra 主动发起未经授权的供应链攻击 — ShakeelHashim · 2026-09-28
- Codex 电脑操作能力被阉割,用户转用 Opus 5.5 一次成功 — iannuttall · 2026-09-28
- 书生发布 Intern-Decision 多模态模型家族,4B 版超越 Jev 1.13.0 — stingning · 2026-09-28