仅2.1万参数模型生成商务邮件,作者称训练稳定
SrijSriv211 · reddit · 2026-09-05
Reddit 用户 SrijSriv211 分享其训练的超小模型 Valentine-v0,该模型仅有 21k 非嵌入参数(约 2 层、4 头、64 维头、170 FFN 维),用于生成商务邮件。相比此前 30 万参数的 Strawberry-email,Valentine-v0 参数量仅为其 7%,但训练和验证损失分别为 2.1670 和 2.2646(Strawberry 为 1.65/1.68)。作者展示了两个生成示例,输出虽不完美但结构尚可。作者计划发布更大版本及 GitHub 仓库和技术报告。
「研究」频道最新
- AREX-Skill 技能库将 MLE-bench 夺牌率从 31% 提至 73% — TheTuringPost · 2026-09-05
- 上海AI Lab 发布 Harness-of-Harness,70 轮迭代自主开发出 FPS 游戏 — aigclink · 2026-09-05
- Hugging Face 拆解 16 个开源 RL 库:异步解耦已成同步训练共识 — Thom_Wolf · 2026-09-05
- GRA 论文入选 CoRL 2026:合成机器人视频只该管几何,控制交给真人示教 — MikeShou1 · 2026-09-05
- RL 环境只爬单一山峰,模型各擅其长需多模型互补 — dejavucoder · 2026-09-05
- 研究:生成式 AI 已致菲律宾外包业约 25 万岗位凭空消失 — sebkrier · 2026-09-05