4B 模型单卡 A100 微调 27 分钟,MMLU 式字母题 66.7% 升至 74.5%
MaziyarPanahi · x · 2026-10-25
博主分享了一组关于 DeepSeek-V4.1-Flash-1017 的规模参考数据:Jev 1.14 在 0.27 秒内完成字母选择,整场考试 88.5% 准确率仅花费 0.03 美元。一个 4B 模型在单张 NVIDIA A100 上只训练 27 分钟,准确率就从 66.7% 提升到 74.5%。
该模型权重已在 Hugging Face 开源(downloads 约 8.5 万、2911 赞),多家推理服务商(Together、Novita、Baseten)已上线,Together 输出价 $1.2、吞吐约 228 tok/s,支持 tool calling。
「Infra」频道最新
- Izwi 0.1.0 发布:全本地语音 AI,集 TTS/克隆/转写一身 — zinyando · 2026-10-26
- 前沿攻防对抗升级,安全模型或率先催生量子计算需求 — BenBajarin · 2026-10-26
- DesignArena 数据:Gemini 3.8 Flash 发布一个月后输出质量明显退化 — legit_api · 2026-10-26
- Perplexity 开源决策模型可本地跑:5B 蒸馏自 7B,Mac 免费无 API — Saboo_Shubham_ · 2026-10-26
- 图解数据中心融资结构:SPV 模式让巨头债务移出资产负债表 — SumitGup · 2026-10-26
- OpenAI 曝光 GPT-7 训练细节:打造缓存网页「离线世界」供前沿 RL 使用 — daniel_mac8 · 2026-10-26